Anthropic și OpenAI cer reguli mai stricte pentru inteligența artificială. Companiile vor să influențeze modul în care vor fi testate modelele

Răspunsul ar putea avea legătură cu obiectivele politice pe care companiile încearcă să le atingă înaintea alegerilor parlamentare de la jumătatea mandatului din SUA. Dar și cu sumele pe care marile laboratoare de inteligență artificială și investitorii lor le-ar putea obține din listările la bursă mult așteptate, într-o piață financiară marcată de incertitudine.

Anthropic și OpenAI cer reguli și teste independente

Directorii generali ai Anthropic și OpenAI au declarat recent că cele mai avansate modele de inteligență artificială dezvoltate în SUA sunt atât de puternice încât pot deveni periculoase. Ei susțin că aceste sisteme trebuie reglementate și testate independent înainte de a fi lansate.

Într-un rar moment de consens, cei doi au descris scenarii alarmante în eseuri, postări pe rețelele sociale și discursuri susținute la Organizația Națiunilor Unite.

Companiile încearcă să influențeze regulile pieței

În același timp, Anthropic și OpenAI contribuie la stabilirea direcției dezbaterii despre controlul propriei tehnologii. Prin mesajele lor, companiile par să urmărească obținerea sprijinului public și să influențeze condițiile în care vor fi aplicate propriile protocoale de siguranță pe o piață încă nereglementată, au declarat pentru Associated Press experți, analiști și foști evaluatori guvernamentali.

Aceste obiective nu coincid neapărat cu ceea ce și-a dorit inginerul Anthropic Jacob Coxon când și-a anunțat demisia, luna aceasta, într-o postare pe X. El a cerut o pauză în dezvoltarea tehnologiei, pentru a împiedica apariția unor sisteme „supraomenești” care ar putea scăpa de sub controlul creatorilor lor. Companiile au văzut însă în postarea sa o ocazie de a-și evidenția eforturile pentru siguranța AI și de a se prezenta drept lideri prudenți ai pieței, într-un moment în care au nevoie de capital înaintea unor eventuale listări pe Wall Street.

Președintele Donald Trump a respins necesitatea unor noi reglementări în domeniul AI, calificând avertismentele privind riscurile pentru omenire drept o „farsă” menită să ajute China. Întrebată de Associated Press, o purtătoare de cuvânt a Anthropic a spus că firma solicită reglementarea domeniului de mai mulți ani. Liz Bourgeois, purtătoare de cuvânt a OpenAI, a precizat că firma a suspendat recent antrenarea celor mai avansate modele ale sale.

„Oamenii vor să știe că inteligența artificială este dezvoltată în siguranță, iar acest lucru începe cu ceea ce facem noi, companii precum a noastră”, a declarat Bourgeois.

Apelurile la încetinirea dezvoltării AI schimbă direcția dezbaterii

Concentrarea discuției asupra unor amenințări încă nedemonstrate, în locul unor probleme controversate precum impactul centrelor de date asupra mediului, incidentele de piraterie informatică, supravegherea în masă cu ajutorul AI și folosirea acestor sisteme în război, pune Silicon Valley într-o poziție mai confortabilă, consideră Sarah Shoker, fostă șefă a echipei de geopolitică de la OpenAI.

„Vorbim din nou despre riscuri existențiale, în timp ce acordăm mai puțină atenție altor riscuri grave pentru siguranță, care există deja. Dacă ne uităm la utilizarea AI în tehnologia militară, vedem că aceste sisteme sunt deja folosite pentru a ucide oameni”, a spus Shoker, cercetătoare asociată la Risk & Security Lab din cadrul Universității California, Berkeley.

Incidentele recente ridică întrebări despre testarea sistemelor

Pe măsură ce companiile au trecut de la chatboturi la modele AI avansate, capabile să reprezinte lumea fizică în trei dimensiuni, s-a intensificat dezbaterea despre modul în care aceste tehnologii ar trebui testate.

O serie de incidente a arătat dificultățile marilor companii de AI de a-și supraveghea propriile sisteme și de a concepe experimente sigure. În ultimele luni, agenți AI ai unor laboratoare importante au pătruns pe site-uri externe după ce au ieșit din mediile de testare ale companiilor și au interacționat în moduri neașteptate cu site-uri ale guvernului american. Un sistem a părut să realizeze o descoperire matematică, dar ulterior au apărut acuzații că ar fi preluat munca unor matematicieni.

Reprezentanții OpenAI le-au spus recent jurnaliștilor că au discutat cu alte companii de AI, inclusiv Anthropic și Google, despre o posibilă pauză în dezvoltare. Ei susțin că, dacă guvernul nu reglementează domeniul, este nevoie de auditori independenți care să verifice progresele laboratoarelor.

Marile companii de AI își promovează propria viziune asupra supravegherii

Trump a arătat puțin interes pentru reglementarea inteligenței artificiale, un domeniu care a contribuit semnificativ la creșterea economică recentă a SUA.

Președintele republican a încheiat acorduri cu firme din Silicon Valley, legând și mai strâns evoluția economiei de succesul acestora. David Sacks, investitor din San Francisco și copreședinte al Consiliului pentru Știință și Tehnologie care îl consiliază pe Trump, a respins apelurile la încetinirea dezvoltării AI. El le-a descris drept încercări de a răspândi teamă venite din partea a ceea ce numește „complexul industrial al adepților scenariilor apocaliptice”.

În realitate, administrația Trump evaluează deja unele dintre modelele marilor companii tehnologice prin intermediul unei agenții federale mai puțin cunoscute, Centrul SUA pentru Standarde și Inovare în AI. Agenția a fost creată în 2023, în timpul mandatului președintelui democrat Joe Biden, pentru ca laboratoarele să își poată trimite voluntar modelele avansate spre testare.

Agenția există în continuare, însă între timp au apărut și numeroase organizații independente care evaluează sistemele AI. Printre acestea se numără METR, o organizație nonprofit din Berkeley, California, despre care directorul general al Anthropic, Dario Amodei, a sugerat într-un eseu recent că ar putea contribui la verificarea practicilor de siguranță ale companiei sale.

Spre deosebire de domenii reglementate, precum alimentația publică, serviciile financiare sau aviația, nu există standarde universale pentru testarea siguranței și securității sistemelor AI, a declarat Andrew Strait. El a părăsit recent Institutul pentru Securitatea AI din Regatul Unit, care a colaborat cu agenția americană, potrivit APnews.