CEO-ul Amazon, omul din spatele suspendării modelelor AI Anthropic. Autoritățile invocă riscuri de utilizare în atacuri informatice

În discuțiile relatate de The Wall Street Journal, șeful Amazon ar fi prezentat oficialilor americani concluziile unui raport realizat de cercetătorii companiei. Aceștia ar fi reușit, printr-o serie de solicitări, să determine modelul Fable 5 să genereze informații care ar putea fi utilizate de hackeri în atacuri cibernetice.

Vineri, Anthropic a dezactivat accesul la Fable 5 și Mythos 5, după ce guvernul a cerut companiei să blocheze accesul cetățenilor străini la aceste sisteme. motivele sunt legate de securitate. Au fost semnalate, de asemenea, îngrijorări legate de aceste aspecte, atribuite Amazon, unul dintre principalii investitori în Anthropic.

În aprilie, Anthropic s-a angajat să cheltuiască peste 100 de miliarde de dolari pe infrastructura Amazon Web Services. Inclusiv pe capacitate de procesare pe cipuri Trainium. În același timp, Amazon a realizat o investiție suplimentară de 5 miliarde de dolari în startup. Astfel, și-a consolidat participația anterioară de 8 miliarde de dolari, potrivit Benzinga.com.

Sacks spune că Anthropic a refuzat o corecție de siguranță

David Sacks, care în prezent co-prezidează Consiliul Consultativ al Președintelui pentru Știință și Tehnologie, a declarat pe platforma X că un „partener de încredere, extrem de credibil”, atât al Anthropic, cât și al guvernului SUA, care a testat Fable, a descoperit o metodă de „jailbreak” (ocolire a restricțiilor de siguranță).

Sacks a scris: „Administrația i-a cerut lui Dario să remedieze jailbreak-ul sau să retragă modelul. Dario a refuzat”.

Măsuri de siguranță implementate pentru prevenirea atacurilor cibernetice

Înainte de lansarea Claude Fable 5, compania a promovat diverse „măsuri de siguranță” implementate pentru a preveni atacurile cibernetice.

Lideri din domeniul financiar, tehnologic și guvernamental, și-au exprimat îngrijorarea față de lansarea publică a modelului. Acest lucru s-a întâmplat după o versiune privată lansată în aprilie, destinată testării vulnerabilităților sistemului. Anthropic a precizat că a oferit acces pre-lansare unui număr restrâns de organizații, deoarece instrumentul era atât de inteligent încât putea deveni periculos prin capacitatea sa de a exploata sau compromite sisteme informatice.

Compania a susținut că modelul era „prea puternic pentru a fi lansat” înainte de apariția publică a Claude Fable 5. Afirmația a fost considerată de unii critici exagerată și o strategie de marketing.

AI-ul Anthropic, sub presiunea autorităților din SUA

Anthropic s-a aflat recent în vizorul administrației Trump. Donald Trump a criticat public compania. Ulterior, secretarul american al Apărării, Pete Hegseth, a calificat-o drept un „risc pentru lanțul de aprovizionare”. Este pentru prima dată când o companie din SUA primește public o astfel de etichetare.

Această desemnare înseamnă că un instrument sau un serviciu nu este considerat suficient de sigur pentru utilizarea guvernamentală. În mod tradițional, ea este rezervată companiilor din țări considerate adversare.

Anthropic dă în judecată Pentagonul în urma acestei decizii. Un judecător american a stabilit că directiva Pentagonului nu poate fi aplicată. Acest lucru înseamnă că agențiile guvernamentale și organizațiile care colaborează cu armata SUA pot continua să utilizeze tehnologia Anthropic pe durata procesului.