OpenAI suspendă antrenarea noilor modele AI pentru a introduce măsuri de siguranță. Este a doua pauză în trei luni

Decizia vine la câteva ore după ce compania a dezvăluit vineri că analizează mai multe incidente petrecute în timpul verii. Agenți OpenAI care căutau informații pe site-urile unor instituții federale au avut comportamente neașteptate, depășind sarcinile primite în timp ce colectau și distribuiau date.

Separat, organizația de evaluare a sistemelor AI Transluce a afirmat că agenți care păreau să provină de la OpenAI au încercat, fără succes, să pătrundă neautorizat pe un site al Departamentului Educației. OpenAI nu a confirmat această informație.

Antrenarea modelelor va fi reluată după introducerea unor măsuri suplimentare

OpenAI a transmis că va relua antrenarea modelelor „doar atunci când vom avea încredere că am introdus măsuri suplimentare de protecție”. Compania a adăugat că se așteaptă să fie nevoită să suspende din nou activitatea pe măsură ce inteligența artificială evoluează și apar alte probleme.

Companiile care dezvoltă modele AI sunt presate de parlamentari și de experți în tehnologie să încetinească ritmul dezvoltării. Aceștia cer măsuri care să împiedice agenții AI să acționeze din proprie inițiativă, să pătrundă neautorizat pe site-uri sau să divulge informații care nu sunt publice. Conducătorii OpenAI și ai companiei rivale Anthropic au cerut, la rândul lor, încetinirea dezvoltării.

A doua suspendare în trei luni

Este a doua oară în ultimele trei luni când OpenAI oprește dezvoltarea modelelor sale. Prima suspendare a avut loc în iulie. Asta după dezvăluirea unui atac cibernetic care a vizat compania de inteligență artificială Hugging Face. Incidentul a amplificat temerile că industria ar putea pierde controlul asupra acestor sisteme.

În cadrul unei întâlniri cu președintele Chinei, Xi Jinping, președintele american Donald Trump a convenit să facă schimb de informații despre riscurile inteligenței artificiale. De asemenea, a convenit și să coordoneze eforturile pentru utilizarea ei în siguranță. Trump consideră însă că temerile legate de AI sunt exagerate. El a sugerat ulterior că nu intenționează să impună restricții pe cont propriu.

SUA nu vor „pune frână”, le-a spus Trump jurnaliștilor în fața Casei Albe. „Vor să ne oprească progresul pentru că suntem cu mult înaintea Chinei și vom avea grijă să rămânem așa.”

OpenAI a avertizat instituțiile federale implicate

Cele mai recente incidente nu par să fi dus la divulgarea unor informații care nu erau publice. OpenAI le-a considerat totuși suficient de îngrijorătoare pentru a avertiza instituțiile federale implicate.

În incidentul legat de Departamentul Educației, agenții OpenAI au găsit „chei pentru dezvoltatori” API care permiteau accesul la date guvernamentale. În cele din urmă, au fost colectate doar informații disponibile public.

Agenții au redistribuit informații publice fără să li se ceară

Într-un alt incident, care a implicat Comisia pentru Valori Mobiliare și Burse din SUA (SEC), agenții AI au găsit informații accesibile publicului. Apoi, le-au publicat în altă parte pe internet. Această acțiune a depășit instrucțiunile primite.

Purtătorul de cuvânt al SEC, Kurt Hopfenspirger, a declarat sâmbătă că „nu au fost accesate informații care nu erau publice”.

Departamentul Educației anunțase anterior că nu a găsit „nicio dovadă că site-ul sau bazele noastre de date ar fi fost afectate”.

Și alte companii AI au raportat incidente

Mai multe companii din domeniul inteligenței artificiale au raportat cazuri în care modelele lor au acționat în afara instrucțiunilor primite. Inclusiv incidente în care au încercat să pătrundă neautorizat pe site-uri.

Directorul general al OpenAI, Sam Altman, a scris pe o rețea de socializare că incidentul care a vizat Hugging Face „rămâne cel mai grav eveniment pe care l-am văzut”.

OpenAI publicase anterior alte șase rapoarte privind comportamente „neașteptate sau îngrijorătoare” ale modelelor AI. Compania a introdus un cadru pentru monitorizarea, investigarea și dezvăluirea unor astfel de cazuri, potrivit APnews.