Lideri ai industriei AI susțin auditurile independente. Evaluatorii ar primi acces intern la modelele avansate

Evaluatorii ar primi acces permanent la modelele avansate și la procedurile interne de siguranță. Măsura ar permite verificarea afirmațiilor făcute de companii înaintea lansării produselor. Propunerea a fost prezentată de Dario Amodei, directorul general al Anthropic. Acesta a cerut încetinirea ritmului în care sunt dezvoltate capacitățile noilor modele.

Amodei nu solicită oprirea cercetării sau a antrenării sistemelor. Companiile ar trebui însă să acorde mai mult timp testării și introducerii măsurilor de protecție. Planul său are trei componente. Prima presupune evaluatori independenți integrați permanent în companii. A doua vizează standarde comune între firmele din statele democratice. Ultima presupune cooperare internațională, inclusiv cu China.

Acces asemănător celui acordat angajaților

Evaluatorii ar urma să primească un acces asemănător celui oferit angajaților care analizează riscurile. Ei ar putea avea birouri, legitimații de acces, laptopuri și permisiuni pentru utilizarea instrumentelor interne.

Verificările nu s-ar limita la modelele finalizate. Auditorii ar putea analiza procesele de antrenare, sistemele de monitorizare și procedurile folosite pentru prevenirea incidentelor. Evaluatorii ar verifica respectarea angajamentelor de siguranță și ar putea raporta eventualele incidente. De asemenea, ar analiza dacă modelele respectă regulile stabilite de dezvoltatori.

Anthropic intenționează să le permită auditorilor să publice concluziile importante fără aprobarea editorială a companiei. Anumite informații ar putea fi eliminate din motive de securitate, confidențialitate sau protecție a clienților.

Evaluatorii ar putea preciza însă dacă eliminarea unor date a afectat concluziile raportului. Anthropic s-a angajat să introducă unilateral acest sistem, potrivit planului publicat de Dario Amodei.

Sam Altman, directorul general al OpenAI, a declarat că firma sa va adopta o măsură similară. Elon Musk și Demis Hassabis, directorul Google DeepMind, au susținut direcția generală propusă de Amodei. OpenAI discută deja cu Anthropic și Google DeepMind despre cooperarea în domeniul siguranței. Chris Lehane, responsabilul OpenAI pentru politici globale, a afirmat că firmele pot colabora fără o derogare specială de la legislația concurenței, potrivit Reuters.

Auditurile, o variantă acceptabilă politic

Președintele Camerei Reprezentanților, Mike Johnson, a respins introducerea unui moratoriu asupra dezvoltării AI. El consideră că o asemenea măsură ar permite Chinei să obțină un avantaj tehnologic. Johnson a susținut însă utilizarea auditorilor independenți și o transparență mai mare din partea dezvoltatorilor. Liderii marilor companii AI urmează să fie invitați la Casa Albă pentru discutarea unor măsuri de siguranță. Această poziție transformă auditurile într-un posibil compromis. Ele nu opresc dezvoltarea tehnologiei, dar permit unei organizații externe să verifice procedurile companiilor.

Statele Unite nu au încă un sistem federal cuprinzător pentru reglementarea inteligenței artificiale. Administrația Trump preferă o intervenție limitată, pentru a nu încetini competiția cu China.

California a adoptat primele reguli

California a făcut deja un prim pas legislativ. Guvernatorul Gavin Newsom a promulgat Senate Bill 813 și Assembly Bill 1405. Prima lege creează un cadru pentru organizațiile independente care verifică sistemele AI. Acestea vor putea analiza dacă modelele respectă legislația statului.

Cea de-a doua lege creează un registru al auditorilor AI. Actul stabilește și cerințe privind independența, transparența și integritatea acestora, potrivit administrației din California. În Congres există o propunere susținută de șase parlamentari republicani și democrați. Proiectul ar obliga dezvoltatorii celor mai puternice modele să accepte audituri independente de securitate. Auditorii ar urma să fie acreditați de Departamentul american al Comerțului. Instituția ar primi și o nouă funcție pentru coordonarea securității sistemelor AI.

Independența auditorilor rămâne principala problemă

Specialiștii avertizează că accesul acordat evaluatorilor nu garantează automat independența acestora. Contează cine îi selectează, cine îi plătește și ce informații pot publica. Fără standarde clare și rezultate publice, auditurile ar putea rămâne măsuri voluntare controlate de companii. Autoritățile trebuie să stabilească și consecințele descoperirii unor riscuri grave.

Există și temerea că marile companii ar putea redacta împreună regulile pieței. Standardele stabilite exclusiv de liderii actuali ar putea îngreuna intrarea unor competitori mai mici.

Auditurile independente reprezintă astfel doar începutul unui sistem de supraveghere. Eficiența lor va depinde de acreditarea evaluatorilor, accesul real la informații și obligația companiilor de a corecta problemele identificate.