Donald Trump și liderii marilor companii tech au semnat un acord voluntar privind siguranța AI. Casa Albă pregătește și un organism de supraveghere

Reuniunea de la Casa Albă a adus la aceeași masă conducătorii OpenAI, Anthropic, Nvidia, SpaceX, Meta și Google, într-un moment în care investițiile în infrastructura pentru inteligență artificială cresc rapid.

Discuțiile au vizat atât siguranța sistemelor, cât și extinderea centrelor de date în Statele Unite. Administrația americană încearcă, în același timp, să mențină ritmul dezvoltării tehnologice în competiția globală cu China.

Companiile își vor verifica singure sistemele de inteligență artificială

Președintele american Donald Trump a găzduit marți o reuniune cu liderii principalelor companii de tehnologie, pe care a descris-o drept „o reuniune extraordinară” a minților care „construiesc Epoca de Aur a Americii”. Lista invitaților i-a inclus pe liderii OpenAI, Anthropic, Nvidia, SpaceX, Meta și Google, toți actori importanți în industria americană a inteligenței artificiale.

Reuniunea a avut loc în contextul în care unii directori din sectorul tehnologic și experți au cerut o supraveghere mai strictă a inteligenței artificiale, invocând îngrijorări privind riscurile potențiale pentru omenire. Trump a răspuns întrebărilor presei timp de aproximativ 30 de minute, alături de liderii companiilor tehnologice, după reuniunea desfășurată cu ușile închise.

Președintele a declarat că directorii au semnat un document „obligatoriu din punct de vedere moral”, care va servi drept „formă de protecție” împotriva riscurilor potențiale ale inteligenței artificiale. În baza acordului, pe care Trump l-a publicat online, companiile sunt responsabile pentru asigurarea siguranței propriilor tehnologii.

Companiile au convenit, de asemenea, să implementeze măsuri de protecție pentru a menține modelele în parametrii prevăzuți și pentru a detecta și remedia rapid eventualele probleme. De asemenea, vor lucra cu „auditori independenți” pentru a evalua dacă sistemele lor de inteligență artificială funcționează conform intențiilor și pentru a se asigura că platformele lor nu „sparg sau accesează sisteme tehnice în moduri neintenționate”.

Trump spune că acordul seamănă cu „o constituție”

Acordul a fost semnat de Trump, directorul Google Sundar Pichai, directorul Anthropic Dario Amodei, Mark Zuckerberg de la Meta, președintele OpenAI Greg Brockman, Elon Musk de la SpaceX și directorul executiv al Nvidia, Jensen Huang. „Este aproape ca o constituție, într-un fel”, a spus Trump, referindu-se la acord. „Iar cei mai importanți oameni din lume l-au semnat, iar eu l-am semnat în calitate de președinte.”

Trump a adăugat că va înființa un organism care să supravegheze siguranța instrumentelor de inteligență artificială. El nu a precizat cine va face parte din organism. Zuckerberg a spus că acordul oferă „poporului american și clienților încrederea că tehnologia funcționează” conform intențiilor, descriind reuniunea drept o „conversație istorică”.

Amodei a spus că este o modalitate „de a câștiga în siguranță”, făcând referire la declarația făcută de președinte la începutul acestei luni, potrivit căreia „cine câștigă în AI, câștigă”. Acordul deschide calea către o posibilă reglementare viitoare, dar se concentrează pe patru măsuri voluntare pe care companiile trebuie să le adopte.

Documentul spune că firmele vor implementa „controale interne solide”, vor colabora cu un „auditor extern independent” pentru a evalua funcționarea controalelor și vor crea în cadrul fiecărui consiliu de administrație un comitet care să analizeze rapoartele auditorilor interni și externi. „În timp, ar putea avea sens ca aceste măsuri să fie transpuse în legi și reglementări”, se arată în acord.

Experții critică lipsa unor obligații juridice

Însă nu toți experții sunt impresionați de acord. Cercetătorul în guvernanța inteligenței artificiale Jose Miguelito Enriquez, de la Nanyang Technological University, a spus că pactul arată un „consens în formare”, dar nu clarifică dacă dezvoltatorii de inteligență artificială ar trebui trași la răspundere pentru incidente.

Kimberlee Weatherall, profesor de drept la University of Sydney, a descris acordul drept „profund neimpresionant”. Ea a subliniat că documentul apare în pofida apelurilor unor lideri mondiali și reprezentanți ai industriei pentru reglementări mai stricte ale tehnologiei.

Potrivit Weatherall, pactul pare să permită companiilor să „definească ce înseamnă siguranța” și nu precizează ce consecințe există în cazul încălcării prevederilor. „Acordul ar trebui ignorat, pentru că nu este decât o distragere”, a adăugat ea. Trump a minimalizat în repetate rânduri îngrijorările privind riscurile inteligenței artificiale, chiar dacă mari companii din domeniu au cerut o supraveghere mai strictă a tehnologiei.

Luni, OpenAI a anunțat că a renunțat la lansarea celui mai nou model emblematic de inteligență artificială, GPT-6.1 Astra, din cauza unor probleme de siguranță. Sistemele de securitate ale companiei au fost supuse unei analize intense după incidente importante care au implicat tehnologia sa, inclusiv accesarea fără autorizație a unor platforme ale guvernului australian de către modelele sale.

OpenAI a raportat un incident cu un site al guvernului australian

Acordul vine în contextul unei presiuni globale puternice din partea populației și a parlamentarilor pentru reglementarea industriei, pe măsură ce se acumulează rapoarte privind situații în care tehnologia a ieșit din limitele stabilite. Săptămâna trecută, OpenAI a dezvăluit că agentul său a spart un site al guvernului australian în timpul fazei de testare.

Donald Trump a declarat că el și un grup numeros de lideri ai companiilor de inteligență artificială au semnat marți un acord voluntar, care va include evaluări interne și externe, în cadrul unei reuniuni menite să răspundă temerilor americanilor privind tehnologia și riscurile sale pentru omenire.

„Cred că văd un grad extraordinar de autoreglementare. Și ei înțeleg că trebuie să se autoreglementeze”, a declarat Trump reporterilor în timpul unei conferințe de presă improvizate în fața Aripii de Vest.

Trump și președintele Camerei Reprezentanților, Mike Johnson, s-au întâlnit la Casa Albă cu directori ai principalelor companii de tehnologie și inteligență artificială, care cheltuiesc sute de miliarde de dolari pentru dezvoltarea infrastructurii AI, inclusiv centre de date în comunități din întreaga țară, proiecte care au generat opoziție locală din partea ambelor tabere politice.

Amodei avertizează asupra „riscurilor foarte reale”

Jeannie Paterson, de la Centre for Artificial Intelligence and Digital Ethics din cadrul University of Melbourne, a declarat că autoreglementarea ar putea însemna că firmele stabilesc „doar măsuri minime de protecție”. Acordul inspiră „foarte puțină încredere”, deoarece incidentele recente în care inteligența artificială a scăpat de sub control sugerează că firmele nu au avut o abordare disciplinată, a adăugat ea.

Trump i-a lăudat în repetate rânduri pe directorii companiilor pentru dezvoltarea unei tehnologii despre care a spus că va genera „o creștere incredibilă”. Investițiile în centre de date și în echipamentele informatice aferente au accelerat economia și au stimulat piața bursieră, ceea ce a mărit conturile de investiții ale americanilor cu venituri mai ridicate și le-a susținut cheltuielile.

Totuși, marți au existat și avertismente. Amodei, care a fost una dintre cele mai vocale persoane care au cerut încetinirea dezvoltării inteligenței artificiale, a spus: „Tehnologia are riscuri foarte reale”. „Iar mecanismul, modul în care abordăm aceste riscuri, este încă în discuție”, a adăugat el.

Trump a sugerat că aproximativ 10 persoane vor fi numite într-un comitet care să „supravegheze întreaga activitate” și a spus că acordul va fi „obligatoriu din punct de vedere moral”. El a mai afirmat că va desemna în zilele următoare o persoană care să supravegheze acordul, după consultări cu industria.

Acordul nu introduce răspundere juridică pentru companii

Unele dintre măsurile prevăzute în acord sunt deja aplicate într-o anumită formă de companii sau au fost asumate anterior de acestea. Acordul nu introduce însă un cadru legislativ care să stabilească o răspundere juridică solidă și reglementări pentru tehnologie, măsuri cerute de unii reprezentanți ai industriei. Aceștia au avertizat că există posibilitatea ca inteligența artificială să depășească inteligența umană și să provoace dispariția oamenilor într-un interval de un deceniu.

Trump, care s-a opus constant și vocal introducerii unor astfel de măsuri, a declarat înaintea reuniunii că guvernul SUA nu va limita dezvoltarea inteligenței artificiale și nu va sprijini apelurile pentru „măsuri de protecție” sau alte restricții.

„Nu voi împiedica niciodată dezvoltarea unei tehnologii care va fi mai importantă decât revoluția industrială”, a spus Trump la prezentarea unui chatbot bazat pe inteligență artificială, America.gov, destinat să îi ajute pe americani să navigheze serviciile guvernamentale. „Nu o putem împiedica și avem un avans foarte mare.”

Trump susține extinderea rapidă a centrelor de date

Trump și-a reiterat sprijinul pentru extinderea rapidă a centrelor de date, infrastructura informatică esențială pentru funcționarea inteligenței artificiale. Dezvoltarea centrelor de date a generat opoziție în întreaga țară, din cauza îngrijorărilor privind consumul de energie electrică și impactul lor potențial asupra comunităților. Construcția centrelor de date a devenit și un posibil obstacol politic pentru Partidul Republican al lui Trump înaintea alegerilor de la jumătatea mandatului din SUA, programate în noiembrie.

Un sondaj realizat la începutul acestei luni de Marist Poll, în parteneriat cu NPR și PBS News, a arătat că 65% dintre alegătorii înregistrați se opun construirii centrelor de date în zonele lor. Răspunzând acestor îngrijorări, Trump a spus că firmele de tehnologie vor încerca să îi facă pe oameni „mulțumiți” de construcția centrelor de date.

„Aceste companii mari, puternice, foarte bogate și foarte inteligente vor aduce contribuții masive comunităților”, le-a spus Trump reporterilor. Trump a declarat anterior pe rețelele sociale că singurul motiv pentru care comunitățile ar trebui să se opună centrelor de date este dacă „vor să ajungă înapoiate și sărace”.

Companiile ar urma să sprijine comunitățile din jurul centrelor de date

Trump a mai spus că directorii au convenit să reducă opoziția bipartizană față de centrele de date care apar în comunități locale din întreaga țară, prin acordarea unui sprijin financiar mai mare școlilor locale sau prin măsuri de reducere a costurilor cu energia. „Veți vedea că centrele de date vor deveni foarte populare”, a spus Trump.

Dacă opoziția va continua, Trump a sugerat că firmele „vor fi obligate să meargă în străinătate sau în alte locații”. Huang, de la Nvidia, companie care produce cipuri esențiale pentru funcționarea inteligenței artificiale, a spus după reuniune că centrele de date ar trebui numite „fabrici de superinteligență”. Aceste facilități „reindustrializează Statele Unite”, creând locuri de muncă în întreaga economie, a adăugat el.

Administrația Trump înlocuiește termenul „AI” cu „Super Intelligence”

Tot marți, Trump a semnat un ordin executiv prin care instruiește departamentele și agențiile guvernamentale americane să înceapă să folosească termenii „SI” și „Super Intelligence” și să nu mai recunoască utilizarea termenului „inteligență artificială”. SI va înlocui AI în „corespondența oficială”, pe site-uri, în rapoarte și în alte forme de comunicare, se arată în ordin.

„Pe măsură ce aceste capacități continuă să se îmbunătățească, ele reprezintă din ce în ce mai mult nu doar inteligență artificială, ci o nouă eră a Superinteligenței”, se arată în ordin. Într-un discurs susținut săptămâna trecută în fața Adunării Generale a Națiunilor Unite, Trump a spus că termenul „artificial” face ca tehnologia să „pară falsă”.

Unii lideri din sectorul tehnologic, inclusiv Zuckerberg și Elon Musk, precum și alte persoane apropiate de președinte, au început deja să folosească termenul. Odată ce liderii tehnologici adoptă termenul, SUA „ar putea foarte bine să stabilească nomenclatura”, a spus Paterson. Însă unii experți au declarat după discursul lui Trump de la ONU că termenul este puțin probabil să fie adoptat pe scară largă, deoarece denumirea este folosită în mod obișnuit pentru sisteme mai avansate.

Trump prezintă dezvoltarea AI drept o competiție între SUA și China

Trump a prezentat marți cursa pentru dezvoltarea inteligenței artificiale în principal drept o competiție globală între Statele Unite și China. El a spus că va exista un câștigător și un învins, fără un „loc doi”. Cele două țări au convenit săptămâna trecută să stabilească un canal pentru gestionarea incidentelor legate de inteligența artificială, în timpul vizitei președintelui chinez Xi Jinping la Washington.

Trump a subliniat însă marți că nu dorește o cooperare prea strânsă cu China. „Nu am vrut să fac nimic, pentru că suntem în frunte. De ce aș vrea să fac ceva?, a mai spus acesta, potrivit BBC.