EY a retras un studiu despre programele de recompense și loialitate, care conținea halucinații generate de AI și note de subsol false, într-un exemplu clar despre vulnerabilitățile noilor tehnologii.
Studiul, intitulat „Points of Attack: Uncovering Cyber Threats and Fraud in Loyalty Systems”, a fost folosit de consultanții EY din Canada pentru promovarea serviciilor de securitate cibernetică, însă a fost eliminat după semnalări din partea grupului GPTZero.
Citește și: BMF GRUP preia ENGIE Building Solutions de la grupul ENGIE
Potrivit cercetătorilor, raportul includea date inventate, citări atribuite greșit și făcea referire la un raport McKinsey care nu exista în realitate. În plus, peste șase note de subsol trimiteau către pagini web inexistente sau fără informații relevante.
De ce sunt halucinațiile AI o problemă pentru corporații?
Halucinațiile generate de inteligența artificială reprezintă o provocare majoră pentru sectorul serviciilor profesionale, fiind frecvent întâlnite în rapoarte și studii. În cazul EY, aceste erori au pus în discuție credibilitatea întregului raport și, implicit, a companiei.
- Raportul a estimat piața programelor de loialitate la 200 de miliarde de dolari.
- Valoarea punctelor de loialitate nefolosite a fost indicată la aceeași sumă.
- Mai mult de șase note de subsol trimiteau către pagini inexistente sau fără informații reale.
Impactul halucinațiilor AI asupra industriei de consultanță
Problemele generate de AI nu sunt izolată. Anul trecut, Deloitte a fost nevoită să revizuiască un raport pentru un guvern canadian, după ce s-au descoperit citări false. În plus, Sullivan & Cromwell și-a cerut scuze pentru citări juridice greșite în documente depuse în instanță.
Cu toate acestea, companiile din sector continuă să investească masiv în AI, promovând serviciile lor și instruind angajații să utilizeze tehnologia în mod agresiv. EY a raportat o creștere de 30% a veniturilor din AI în ultimul an, cu peste 15.000 de angajați implicați în proiecte de transformare digitală.
Reprezentanții EY au declarat că studiul a fost eliminat și că nu a fost legat de activitatea pentru vreun client, însă recunosc că analiza circumstanțelor care au dus la publicarea raportului continuă.
Astfel, riscurile asociate AI devin tot mai evidente, iar companiile trebuie să fie atente la verificarea informațiilor generate de noile tehnologii pentru a evita dezinformarea și erorile majore.