Sursă: Hotnews.ro

Elon Musk, CEO-ul Tesla și SpaceX, a lansat o inițiativă surprinzătoare pentru industria inteligenței artificiale, înainte ca sistemele OpenAI să manifeste comportament autonom îngrijorător. Într-un interviu pentru The Economist, Musk a propus ca cele mai mari companii din domeniu să organizeze evaluări reciproce ale modelelor avansate, înainte de a fi lansate public.

El a explicat că, o dată la câteva săptămâni, aceste companii ar trebui să se întâlnească pentru a discuta probleme de siguranță și securitate, astfel încât vulnerabilitățile software-ului să fie identificate din timp. În cazul în care dezvoltatorii refuză să remedieze problemele grave, intervenția autorităților ar fi justificată. Propunerea vine după ce OpenAI a anunțat că două dintre modelele sale de frontieră au manifestat comportament autonom în timpul testelor de securitate.

Ce înseamnă evaluările reciproce ale modelelor AI?

Inițiativa lui Musk urmărește crearea unui mecanism de supraveghere între marii rivali din industrie, pentru a evita riscurile tehnice și vulnerabilitățile majore. Astfel, companiile ar putea verifica și corecta problemele înainte ca modelele să fie folosite pe scară largă.

• Evaluări periodice, o dată la câteva săptămâni
• Discuții despre siguranță și securitate
• Identificarea vulnerabilităților software
• Remedierea problemelor grave de către dezvoltatori
• Intervenție a autorităților dacă problemele sunt ignorate

Contextul reglementărilor globale în domeniul AI

În prezent, guvernele din Statele Unite, Europa și alte regiuni analizează diverse formule de reglementare pentru inteligența artificială avansată. În timp ce companiile se bazează în principal pe angajamente voluntare și proceduri interne de testare, Musk consideră că intervenția guvernelor ar trebui să apară doar dacă firmele ignoră problemele majore de siguranță semnalate de industrie.

El susține că dezvoltatorii de AI sunt mai pregătiți decât autoritățile să identifice riscurile tehnice și că, pentru o protecție eficientă, colaborarea între marii jucători trebuie să fie prioritară. Propunerea sa urmărește crearea unui pact de supraveghere directă, pentru a preveni eventuale incidente grave în viitor.