Sursă: Mediafax.ro

Anthropic, una dintre cele mai importante companii din industria inteligenței artificiale, a avertizat că dezvoltarea AI se apropie de un punct critic în care sistemele ar putea începe să se îmbunătățească singure. Compania subliniază că întregul sector ar trebui să încetinească ritmul dezvoltării, însă admite că un astfel de acord global este puțin probabil, conform unei analize recente.

Compania, care dezvoltă chatbotul Claude, a publicat o analiză detaliată în care descrie riscurile emergente, inclusiv procesul de „auto-îmbunătățire recursivă”. Acest proces ar permite unei inteligențe artificiale să devină suficient de performantă pentru a crea și optimiza versiunile sale viitoare.

AI-ul care scrie codul

Potrivit Anthropic, în prezent, aproximativ 80% din codul utilizat de companie este generat de chatbotul Claude. Această situație s-a schimbat semnificativ în ultimii ani, majoritatea sarcinilor fiind realizate anterior de programatori umani.

• La începutul anului 2025, doar o mică parte din cod era produsă automat.
• În prezent, Claude generează majoritatea codului necesar.
• Calitatea codului generat de AI a crescut, diferențele față de cel scris de dezvoltatori fiind minime.

Riscurile auto-îmbunătățirii

Conceptul de „auto-îmbunătățire recursivă” îngrijorează compania, deoarece un model AI avansat ar putea proiecta și antrena singur versiuni mai performante ale sale. Aceasta ar putea duce la un ciclu continuu de progres tehnologic, similar cu teoria „singularității tehnologice”, care sugerează că dezvoltarea AI ar putea depăși capacitatea oamenilor de a controlat sistemele create.

Anthropic subliniază că, deși AI-ul a demonstrat progrese semnificative, este esențial ca dezvoltarea să fie gestionată cu atenție pentru a evita riscurile asociate cu tehnologiile necontrolate.