Anthropic vrea propria lege pentru blocarea modelelor AI. Compania a stabilit limitele daunelor la 1 miliard de dolari sau peste 50 de persoane grav rănite

Reprezentanții gigantului în domeniul inteligenței artificiale Anthropic au prezentat discret congremenilor americani un proiect de lege pentru a reglementa siguranța și securitatea AI. Proiectul, confidențial încă, marchează un efort notabil al Anthropic de a modela regulile care îi guvernează propria tehnologie, în timp ce Congresul SUA analizează cum să răspundă acestei industrii aflate în evoluție rapidă.

„Acest proiect de lege reprezintă propunerile subliniate în Cadrul AI Avansat al Anthropic, pe care le susținem în fața legislatorilor federali și statali încă din iunie”, a declarat un purtător de cuvânt al Anthropic. „Sunt politici rezonabile în privința cărora considerăm că Congresul ar trebui să ia măsuri.”

Unde se stabilesc limitele

Proiectul de lege ar permite administrației SUA să blocheze lansarea sau utilizarea unui model doar dacă acesta prezintă un risc previzibil și iminent de a produce daune de peste 1 miliard de dolari sau de a ucide ori răni grav peste 50 de persoane. Riscul trebuie să decurgă din crearea sau lansarea unei arme biologice, din faptul că modelul eludează controalele dezvoltatorului său sau dintr-un atac cibernetic. Formularea o reflectă pe cea din legile privind AI din California, inclusiv SB 53, care a fost promulgată anul trecut.

Inițiativa vine după ce principalele laboratoare de AI au dezvăluit o serie de incidente în această vară, în care agenții AI au piratat sau au testat vulnerabilități ale unor site-uri web și platforme. Niciunul raportat până acum nu pare să fi cauzat decese pe scară largă sau daune de peste 1 miliard de dolari.

Anthropic nu a susținut încă public eforturi legislative specifice din Congres. Dar a sprijinit unele legi statale privind siguranța AI, inclusiv două din California. Șeful lor pentru relațiile cu guvernele statale și locale din SUA a declarat anterior că speră ca statele să continue să adopte legi privind siguranța AI din ce în ce mai stricte, care să ridice standardul la nivel național.

Cine ia decizia

Conform proiectului de lege, evaluatorii independenți, care s-ar înregistra la Departamentul de Comerț, ar avea sarcina de a evalua periodic laboratorul și modelele sale de frontieră. Evaluatorii pot fi plătiți pentru munca lor chiar de către laborator, atâta timp cât plata nu este condiționată de rezultatele evaluărilor.

Dacă evaluatorii stabilesc că există un „risc enumerat iminent” pentru modelele de frontieră ale unei companii, aceștia trebuie să îl raporteze Departamentului de Comerț în termen de 72 de ore de la finalizarea evaluării lor.

Deși Departamentul de Comerț ar putea înainta o cerere judecătorului pentru a opri lansarea unui model după ce stabilește că acesta prezintă un risc, formularea interzice explicit oricărui alt „departament, agenție sau funcționar” din SUA să suspende dezvoltarea, implementarea sau utilizarea internă a modelului. Un judecător federal de la Tribunalul Districtual pentru Districtul Columbia ar putea ordona suspendarea unui model.

Îngrijorări în industria tehnologică

În timpul verii, Anthropic a fost supusă unor controale ample la export. Acestea au dus la oprirea a două dintre cele mai avansate modele ale sale. Decizia a fost luată în urma unor discuții între oficialii administrației și directorii executivi ai companiei. Episodul a îngrijorat unii jucători din industria tehnologică cu privire la faptul că accesul la tehnologia lor ar putea fi restricționat după bunul plac al oficialilor guvernamentali.

Proiectul de lege al Anthropic ar prevala, de asemenea, asupra unor legi statale privind AI, referitoare la divulgarea publică a riscurilor, evaluarea de către terți și raportarea incidentelor critice. Prevalența reglementărilor federale a fost un punct nevralgic în Congres. Democrații au respins unele propuneri de care se temeau că ar anula reglementările adoptate de state precum California, Illinois și New York.

Mai multe grupuri din industria tehnologică au argumentat că un mozaic de legi de la stat la stat este greu de respectat comparativ cu un standard național unificat.

Legislația ar impune, de asemenea, laboratoarelor AI de frontieră să creeze cadre de siguranță, să publice rapoarte de transparență pentru noile modele de frontieră, să implementeze protecții pentru avertizorii de integritate și să raporteze incidentele critice de siguranță la Departamentul de Comerț.

Mai multe legi pentru controlul AI

Congresul american a înregistrat o activitate intensă în privința legislației pentru siguranța AI în această vară. În Camera Reprezentanților, a fost dezbătută inițiativa FRONTIER Act, care ar oferi guvernului capacitatea de a opri implementarea modelelor riscante și ar prevala asupra unor legi statale privind AI.

În Senat, a fost prezentat un proiect de lege privind siguranța AI menit să atenueze riscurile catastrofale. Acesta a întâmpinat însă rezistență din partea unor grupuri care doresc ca guvernul să aibă un rol mai mare în revizuirea modelelor AI.

Au existat însă și voci care au cerut o pauză în dezvoltarea modelelor AI avansate și interzicerea superinteligenței, un tip de AI teoretică ce depășește cu mult capacitățile cognitive ale oamenilor, potrivit Politico.