Nvidia, SpaceX și Microsoft lansează o inițiativă pentru siguranța AI. Atacul cibernetic asociat cu OpenAI accelerează măsurile de securitate

Săptămâna trecută, s-a aflat că ținta atacului, startup-ul Hugging Face, nu a putut utiliza cele mai avansate modele AI americane pentru a se apăra. Deoarece mecanismele de protecție ale acestora nu au reușit să facă diferența între atacator și apărător. În schimb, compania a apelat la un model chinezesc open-source, cu greutăți disponibile public (open weight), găzduit pe propriile sisteme. Acesta nu era supus acelorași restricții.

Modelele AI deschise, în centrul disputei dintre SUA și China

Pe fondul faptului că parlamentarii americani analizează tot mai intens măsuri pentru limitarea adoptării modelelor AI chinezești, dintre care cele mai avansate sunt disponibile cu greutăți deschise, marile companii de tehnologie au lansat o inițiativă menită să dezvolte și să distribuie instrumente AI deschise.

Modelele deschise pot fi descărcate, modificate și rulate pe infrastructura proprie, spre deosebire de modelele închise. Inclusiv sistemele avansate dezvoltate de Anthropic și OpenAI, care pot fi accesate doar prin infrastructuri specifice.

„Open Secure AI Alliance va lucra pentru remedierea și dezvăluirea vulnerabilităților folosind tehnologii deschise”, a transmis Nvidia într-un comunicat. „Incidentul recent de securitate de la Hugging Face a oferit un avertisment clar. Apărătorii din domeniul securității cibernetice au nevoie de sisteme AI deschise și avansate, capabile să acționeze autonom, pentru autoapărare.”

Pe lângă Nvidia, printre membrii alianței se numără Microsoft, SpaceX, Palantir Technologies. Dar și zeci de alte companii de tehnologie din Statele Unite și Europa.

Presiuni pentru limitarea AI-ului chinezesc

Există tot mai multe apeluri pentru introducerea unor măsuri care să limiteze accesul la modelele dezvoltate de companii chineze de inteligență artificială. Acestea au fost acuzate că desfășoară campanii de extragere a informațiilor din sistemele competitorilor americani, practică denumită „distilare”. Este procesul prin care un model AI extrage cunoștințe dintr-un alt model mai performant.

Săptămâna trecută, secretarul Trezoreriei SUA, Scott Bessent, a amenințat cu sancțiuni împotriva companiilor chineze care desfășoară atacuri de tip distilare împotriva firmelor americane.

„Există o posibilitate reală ca guvernul SUA să impună restricții asupra modelelor chinezești”, a declarat Chris McGuire. Aceste restricții ar putea include interzicerea tranzacțiilor legate de aceste modele. Precum achiziționarea de tokeni prin intermediul unui API sau găzduirea modelelor de către companii americane în cloud și taxarea clienților pentru utilizarea acestora, a explicat el.

„La Washington, aceasta nu este o dezbatere despre open-source versus closed-source. Ci despre dacă Statele Unite ar trebui să tolereze furtul de proprietate intelectuală realizat de China. Orice măsuri ar fi îndreptate împotriva companiilor chineze, nu împotriva ecosistemului open-source”, a precizat McGuire, potrivit CNBC.

Companiile avertizează împotriva restricțiilor premature

Însă, având în vedere că majoritatea celor mai performante modele AI open-source sunt dezvoltate de companii chineze, există îngrijorări cu privire la eventualele restricții.

Săptămâna trecută, Nvidia, Microsoft, Meta, Palantir și peste 20 de alte companii au publicat o scrisoare prin care au cerut factorilor de decizie să evite „restricțiile premature” asupra modelelor AI cu greutăți deschise (open-weight). Acestea ar putea „bloca concurența sau ar putea determina mutarea inovației în alte țări”.

Incidentul OpenAI-Hugging Face a evidențiat un „adevăr practic”, a transmis Nvidia.