Sursă: Mediafax.ro
Jimmy Wales, cofondatorul Wikipedia, a anunțat că platforma nu va permite AI să editeze articolele, din cauza riscului de erori și halucinații ale inteligenței artificiale. Decizia vine în contextul unei dezbateri globale despre încrederea în tehnologia AI.
Citește și: Forțele SUA au neutralizat o navă comercială în Golful Oman pe 11 octombrie
Wales a explicat că, deși modelele noi ale softurilor AI au atenuat fenomenul „halucinațiilor”, riscul de prezentare a informațiilor eronate cu încredere rămâne foarte grav. El a menționat că aceste erori pot avea consecințe grave, mai ales în cazul informațiilor sensibile sau de nișă.
În cadrul unui eveniment din Londra, Wales a precizat că agenții AI ar putea fi utili pentru a atrage atenția comunității Wikipedia asupra anumitor știri sau informații trecute cu vederea, însă nu vor fi autorizați să editeze direct conținutul enciclopediei. El a adăugat că platforma depinde de încrederea utilizatorilor umani pentru verificarea și validarea articolelor.
De ce Wikipedia nu permite AI să editeze articolele
Wales a afirmat că riscul de „halucinații” AI, adică prezentarea de rezultate eronate cu încredere, a fost un motiv principal pentru decizia de a limita utilizarea AI în editarea articolelor. El a subliniat că această problemă persistă chiar și în modelele recente, deși a fost redusă.
- Fenomenul „halucinațiilor” AI apare atunci când rezultatele eronate sunt prezentate ca fiind adevărate
- Wikipedia nu are încredere în AI pentru a evita răspândirea de informații false
- Platforma vrea să păstreze controlul uman asupra conținutului
- Traficul site-ului a scăzut cu 8% din cauza creșterii utilizării AI
- Wikipedia a încheiat acorduri cu giganți din tehnologie pentru a limita utilizarea AI
Impactul deciziei asupra comunității Wikipedia și a utilizatorilor
Decizia de a nu permite AI să editeze articolele a fost primită cu înțelepciune de către mulți membri ai comunității, care consideră că verificarea umană este esențială pentru menținerea calității informației. Wales a subliniat că platforma continuă să se adapteze și să colaboreze cu companii de tehnologie pentru a gestiona costurile și a asigura integritatea conținutului.
El a adăugat că, deși AI poate fi util în anumite contexte, în prezent, încrederea în tehnologie trebuie să fie cântărită cu precauție, pentru a evita răspândirea de informații false sau halucinații. În acest mod, Wikipedia își păstrează rolul de sursă de încredere, bazată pe verificare umană și colaborare transparentă.