Sursă: Hotnews.ro

Anthropic, compania specializată în modele de inteligență artificială (AI), a anunțat marți lansarea oficială a modelului Fable 5, cel mai puternic din clasa Mythos. Acest model este disponibil publicului, însă cu restricții pentru domenii sensibile, precum securitatea cibernetică și riscurile biologice și chimice.

Fable 5 reprezintă prima versiune din gama Mythos, cea mai avansată categorie creată de Anthropic, dezvăluită în aprilie. În același timp, compania oferă o versiune nelimitată, Claude Mythos 5, destinată companiilor și organizațiilor cu acces deja, care pot exploata capacitățile de detectare și exploatare a breșelor de securitate.

Ce aduce nou Fable 5 în domeniul AI

Modelul Fable 5 a fost lansat cu scopul de a limita riscurile de atacuri biologice și chimice, pe lângă cele cibernetice. Anthropic a citat exemple precum adenovirusurile asociate (AAV), utilizate în terapia genică, ca fiind potențial periculoase, dar și benefice în cercetare.

• Modelul nelimitat este disponibil doar cercetătorilor în biologie selectați
• Solicitările pentru domenii sensibile primesc răspunsuri de la modele inferioare, precum Opus 4.8
• Filtre automate analizează solicitările și le blochează pe cele sensibile
• Experți externi au testat sistemul, fără a reuși să eludeze complet măsurile de siguranță
• Anthropic recunoaște dificultatea de a preveni complet eludările universale ale modelelor

Impactul și reacțiile la lansarea Fable 5

Lansarea Fable 5 a generat reacții mixte, fiind criticată pentru restricțiile impuse, dar și apreciată pentru măsurile de siguranță. Guvernul american a început să testeze aceste modele, în contextul conflictului cu Anthropic, iar OpenAI pregătește versiunea 5.6 a ChatGPT.

Compania consideră că măsurile de securitate sunt esențiale pentru a preveni utilizarea abuzivă a tehnologiei și pentru a proteja infrastructurile critice. În același timp, se estimează că eforturile de a eluda aceste filtre vor continua, fiind dificil să se oprească complet tentativele de atac.