Anthropic a suspendat noul model AI din cauza unor îngrijorări de securitate. Decizia vine la câteva zile după lansarea publică

Într-un comunicat publicat pe site-ul companiei, Anthropic a anunțat că i s-a ordonat să blocheze accesul cetățenilor străini la Claude Fable 5. Programul era descris intern de companie drept „prea puternic”.

„Efectul net al acestei decizii este că trebuie să dezactivăm brusc Fable 5 și Mythos 5 pentru toți clienții noștri. Asta pentru a asigura conformitatea”, a scris compania. Anthropic și administrația Trump sunt implicați într-un proces separat aflat în desfășurare. Procesul este legat de un ordin de interzicere a utilizării instrumentelor AI ale companiei de către agențiile guvernamentale. 

Compania a precizat că autoritățile americane pentru securitate națională nu au identificat preocupări specifice. „Înțelegerea noastră este că guvernul consideră că a fost descoperită o metodă de ocolire sau de «jailbreaking» a modelului Fable 5”, au precizat reprezentanții companiei.

„Jailbreaking” reprezintă procesul de ocolire a restricțiilor software concepute pentru a proteja o rețea informatică. Acesta permite hackerilor să acceseze informații sensibile sau să deblocheze funcții restricționate.

„Am analizat o demonstrație a acestei tehnici specifice, folosită pentru identificarea unui număr mic de vulnerabilități minore, deja cunoscute. Aceste vulnerabilități par toate relativ simple. Noi am constatat că și alte modele disponibile public pot descoperi aceleași probleme fără a fi necesară ocolirea restricțiilor”, a declarat Anthropic.

Măsuri de siguranță implementate pentru prevenirea atacurilor cibernetice

Înainte de lansarea Claude Fable 5, compania a promovat diverse „măsuri de siguranță” implementate pentru a preveni atacurile cibernetice.

Lideri din domeniul financiar, tehnologic și guvernamental, și-au exprimat îngrijorarea față de lansarea publică a modelului. Acest lucru s-a întâmplat după o versiune privată lansată în aprilie, destinată testării vulnerabilităților sistemului. Anthropic a precizat că a oferit acces pre-lansare unui număr restrâns de organizații, deoarece instrumentul era atât de inteligent încât putea deveni periculos prin capacitatea sa de a exploata sau compromite sisteme informatice.

Compania a susținut că modelul era „prea puternic pentru a fi lansat” înainte de apariția publică a Claude Fable 5. Afirmația a fost considerată de unii critici exagerată și o strategie de marketing.

„Capacitățile Fable depășesc orice model pe care l-am pus vreodată la dispoziția publicului larg”, a declarat compania, potrivit BBC.

AI-ul Anthropic, sub presiunea autorităților din SUA

Anthropic s-a aflat recent în vizorul administrației Trump. Donald Trump a criticat public compania, iar ulterior secretarul american al Apărării, Pete Hegseth, a calificat-o drept un „risc pentru lanțul de aprovizionare”. Este pentru prima dată când o companie din SUA primește public o astfel de etichetare.

Această desemnare înseamnă că un instrument sau un serviciu nu este considerat suficient de sigur pentru utilizarea guvernamentală și este, în mod tradițional, rezervată companiilor din țări considerate adversare.

Anthropic dă în judecată Pentagonul în urma acestei decizii. Un judecător american a stabilit că directiva Pentagonului nu poate fi aplicată. Acest lucru înseamnă că agențiile guvernamentale și organizațiile care colaborează cu armata SUA pot continua să utilizeze tehnologia Anthropic pe durata procesului.