OpenAI oprește lansarea GPT-6.1 Astra din motive de siguranță. Modelul nu a respectat limitele autorizării

Modelul, capabil să îndeplinească autonom sarcini precum navigarea pe internet și utilizarea aplicațiilor, „nu a îndeplinit pe deplin standardele” companiei, a declarat Saachi Jain, responsabilă de sistemele de siguranță ale OpenAI.

Tot marți, OpenAI a publicat noi informații despre incidente petrecute în iunie, dar făcute publice abia săptămâna trecută. În aceste cazuri, modelele sale au accesat fără autorizare site-uri și sisteme ale guvernului australian.

Incidentele, alături de încălcări similare comise de modele dezvoltate de alte mari companii de AI, au intensificat în ultimele săptămâni dezbaterea privind riscurile tehnologiei. Lideri din domeniu, printre care Sam Altman, de la OpenAI, și Dario Amodei, de la Anthropic, au cerut industriei să încetinească ritmul dezvoltării. Ei au invocat aceste riscuri.

De ce a fost oprită lansarea modelului

Decizia OpenAI, relatată inițial de The Wall Street Journal, este un caz rar în care un mare dezvoltator de AI renunță la lansarea unui model din motive de siguranță.

Potrivit lui Jain, modelul nu a atins standardele companiei în privința respectării limitelor sarcinilor și a autorizărilor primite. Au existat și probleme legate de modul în care le comunica utilizatorilor ce activități desfășurase.

Modelul GPT-6 Astra, lansat în septembrie, este specializat în raționament complex și în îndeplinirea autonomă a sarcinilor. OpenAI a afirmat că dezvoltarea sa a fost rezultatul „anilor de cercetare și al unor investiții majore”.
Compania urmează să organizeze marți, la San Francisco, conferința anuală pentru dezvoltatori DevDay, unde sunt așteptate mai multe anunțuri. Nu este clar dacă printre ele se va număra și o nouă versiune Astra.

Incidentele din Australia

Măsurile de securitate ale OpenAI sunt atent analizate după mai multe incidente importante care au implicat tehnologia companiei.
Săptămâna trecută, premierul australian Anthony Albanese a anunțat că, în iunie, un agent AI al OpenAI a accesat neautorizat site-uri și sisteme guvernamentale. Experții citați au descris incidentul drept primul caz cunoscut de acest fel la nivel mondial.

Albanese a criticat compania pentru că a notificat guvernul australian printr-o adresă de e-mail generală, în loc să contacteze direct oficialii.

Într-un comunicat publicat marți, OpenAI și-a cerut scuze pentru incident.

OpenAI promite măsuri după incidentele din Australia

OpenAI a anunțat că a început să investigheze incidentele imediat ce a aflat despre ele, la jumătatea lunii august. A notificat organizațiile afectate în perioada 10-24 septembrie.

„Am urmărit să le oferim instituțiilor afectate o prezentare detaliată după încheierea investigației”, a transmis compania. OpenAI a admis însă că ar fi trebuit să comunice mai repede concluziile preliminare. Dar și să țină autoritățile australiene la curent. Compania a adăugat că va elabora proceduri pentru identificarea și raportarea viitoarelor incidente care implică inteligența artificială.

OpenAI va finanța măsuri de securitate cibernetică, va oferi sprijin dedicat instituțiilor afectate. De asemenea, va înființa o echipă care să gestioneze riscurile asociate agenților AI tot mai avansați.

Compania a mai anunțat că un membru al conducerii sale va participa, pe 6 octombrie, în Australia, la o audiere a unei comisii parlamentare privind inteligența artificială.

În iulie, OpenAI a declarat că sistemele sale AI au accesat internetul și au pătruns în platforma pentru dezvoltatori Hugging Face. Incidentul a determinat cercetători și oficiali să ceară măsuri de control mai stricte pentru această tehnologie.

Riscurile trebuie „luate în serios”

Luni, producătorul de cipuri Nvidia a lansat o serie de instrumente software de siguranță pentru platformele AI autonome, numite agenți. Potrivit companiei, acestea ar fi putut preveni incidentul care a vizat Hugging Face. Unul dintre noile instrumente folosește funcții ale cipurilor Nvidia pentru a limita acțiunile agenților.

Directorul general al Nvidia, Jensen Huang, a respins în mare parte apelurile pentru reglementări mai stricte ale inteligenței artificiale. El susține că riscurile generate de agenții AI care acționează necorespunzător reprezintă o problemă tehnică ce poate fi rezolvată.

La începutul acestei luni, Nvidia a convenit să cumpere Hugging Face pentru 12,9 miliarde de dolari. Adică echivalentul a 9,74 miliarde de lire sterline.

Papa Leon al XIV-lea a declarat luni, în timpul unei vizite în Franța, că riscurile tehnologiei „trebuie luate în serios”. El s-a arătat sceptic față de poziția lui Huang.

Suveranul Pontif a spus că a citit despre afirmația directorului general al Nvidia potrivit căreia anumite modele AI ar putea avea integrate mecanisme de protecție.

Discuții despre reglementarea AI la Casa Albă

Președintele american Donald Trump și președintele Camerei Reprezentanților, Mike Johnson, urmează să primească marți, la Casa Albă, directori din sectorul tehnologic pentru discuții despre reglementarea inteligenței artificiale.

Trump a minimalizat îngrijorările legate de riscurile AI, numindu-le o „farsă”. El susține că Statele Unite au deja suficiente legi și că singurul mecanism de protecție de care are nevoie această tehnologie este un președinte „puternic și inteligent”, potrivit BBC.