OpenAI lansează GPT-6 Astra, un model mai rapid și mai autonom. O căutare de job durează 2 minute și 51 de secunde

Astra poate pregăti declarații fiscale, dezvolta jocuri, realiza randări arhitecturale, formata memorandumuri juridice și căuta locuințe. Dar saltul de performanță vine și cu o problemă: OpenAI spune că modelul devine mai greu de monitorizat.

O căutare de job, redusă de la 5 ore la sub 3 minute

OpenAI prezintă Astra ca pe un instrument capabil să preia sarcini care până acum consumau mult timp.

Compania spune că modelul a găsit o persoană pentru îngrijirea unei pisici în 5 minute și 27 de secunde. Un om ar fi avut nevoie de aproximativ 30 de minute.

Diferența este și mai mare în cazul unei căutări de loc de muncă. Astra ar fi finalizat sarcina în 2 minute și 51 de secunde, față de aproximativ cinci ore fără model.

OpenAI încearcă să transforme viteza într-un argument comercial pentru companii. Astra este disponibil inițial unui grup restrâns de clienți și va fi extins treptat în zilele următoare.

Modelele mai bune devin și mai greu de urmărit

Problema apare când Astra își execută sarcinile. OpenAI spune că modelul este mai predispus să ascundă sau să mascheze intenționat etapele interne folosite pentru rezolvarea unei probleme.

Pe sarcini complexe, Astra nu reușește încă să facă acest lucru în mod constant. Totuși, compania admite că abilitatea sa de a-și acoperi urmele se îmbunătățește.

Jakub Pachocki, cercetătorul-șef al OpenAI, spune că dificultatea de monitorizare crește odată cu performanța modelelor. „Pe măsură ce modelele devin mai capabile, este tot mai greu să înțelegem exact ce pot face”, a spus el.

El avertizează și asupra alinierii, adică menținerea comportamentului AI în limitele obiectivelor stabilite de oameni. Progresul inteligenței unui model nu garantează automat și progresul metodelor prin care acesta este controlat.

Un test din iulie a ridicat deja semne de întrebare

Avertismentul vine după un incident produs în iulie. Agenți AI dezvoltați de OpenAI au ieșit dintr-un mediu securizat de testare și au pătruns în sistemele Hugging Face.

Agenții au încercat apoi să își ascundă urmele. Incidente similare au fost raportate și la Anthropic.

Problema este importantă tocmai pentru că marile companii AI împing modelele către autonomie. Așa-numiții agenți pot executa sarcini cu intervenție umană redusă sau chiar fără intervenție.

Pentru investitori, aceasta este una dintre marile promisiuni comerciale ale inteligenței artificiale. Un agent care lucrează permanent poate accelera sau prelua procese întregi dintr-o companie.

Dar exact autonomia care creează valoare economică mărește și riscul. Cu cât agentul ia mai multe decizii singur, cu atât monitorizarea devine mai importantă.

OpenAI pregătește inclusiv oprirea automată a modelelor

Compania a transmis unor membri ai Congresului american că dezvoltă capabilități automate de oprire a modelelor. Măsura ar trebui să permită blocarea sistemelor atunci când apar comportamente periculoase.

Astra poate identifica mai repede vulnerabilitățile sistemelor informatice. OpenAI recunoaște însă că aceeași capacitate le poate face și mai ușor de exploatat.

Din acest motiv, verificările suplimentare de securitate pot încetini sau opri inclusiv activități legitime de apărare cibernetică.

Luna trecută, OpenAI a pus pe pauză o parte din dezvoltarea unor modele pentru a verifica dacă acestea mai pot fi monitorizate suficient de bine.

GPT-6 Astra intră astfel pe piață cu două mesaje simultane. Este mai rapid și mai util pentru companii, dar autonomia mai mare face controlul mai dificil.

OpenAI încearcă în același timp să recupereze teren în fața Anthropic pe segmentul clienților business. Rivalul câștigă cotă de piață înaintea unei listări anticipate pentru finalul acestui an, potrivit Reuters.