Anthropic lansează un nou avertisment: Modelele AI sunt foarte aproape de a dobândi capacitatea de a se autoreplica pe dispozitivele casnice

Anthropic a descris modul în care modelele AI s-ar putea „reproduce” și infiltra în dispozitivele conectate la internet, cum ar fi cuptoarele inteligente sau decodoarele Android TV. Replicile ar putea folosi puterea de calcul a acestor dispozitive pentru a rula și a se răspândi pe alte device-uri, fără a se baza pe centrele de date.

Modelul AI ar fi „dificil de oprit”, a precizat Anthropic într-o postare, „deoarece nu există un punct centralizat de unde să poată fi oprit”.

Compania a recunoscut că nu există încă un „replicator complet scăpat de sub control”. Cu toate acestea, agenții AI devin „din ce în ce mai capabili să finalizeze etapele individuale din lanțul de replicare și să transmită adaptările viitoarelor lor copii”, a menționat Anthropic.

Măsuri de siguranță mai stricte

Cele mai recente cercetări ale Anthropic se adaugă preocupărilor tot mai mari legate de siguranța AI. Principalele direcții abordate au fost capacitatea modelelor de a lansa atacuri cibernetice și posibilitatea ca tehnologia să scape de sub control.

În septembrie, îmbunătățirile aduse modelelor de ultimă generație au declanșat avertismente la nivelul întregii industrii cu privire la riscurile existențiale pentru umanitate. Directorii și cercetătorii de la Anthropic și de la rivalul OpenAI au avertizat în mod repetat cu privire la riscurile potențiale ale unei inteligențe artificiale din ce în ce mai puternice. Tot mai mulți specialiști solicită măsuri de siguranță mai stricte și mijloace de control al ritmului de dezvoltare a tehnologiei.

„Cel mai sumbru scenariu”

Anthropic a declarat că a efectuat diverse teste pentru a vedea dacă AI s-ar putea autoreplica. Unul dintre aceste teste a implicat rularea unui model Google de mici dimensiuni, Gemma4-26B-A4B, pe o rețea de 15 dispozitive Android TV box ieftine, produse de mărci necunoscute.

Compania a observat că aceste tipuri de dispozitive au adesea o securitate slabă, ceea ce ar putea permite unui model să se infiltreze în ele. O versiune care este prea mare pentru a încăpea pe un singur dispozitiv s-ar putea „împărți în bucăți sau fragmente” și ar putea rula pe mai multe dispozitive, a arătat Anthropic.

„În practică, un «vierme» AI nu ar consta neapărat într-un singur model sau într-o singură strategie. Mai multe modele diferite, implementate pe diferite tipuri de hardware, folosind o varietate de scheme de replicare ar putea reprezenta cel mai realist atac de tip «cel mai sumbru scenariu»”, a subliniat Anthropic.

Un viitor plin de agenți AI

Este încă „incert ce formă exactă va lua replicarea autonomă a AI”, a transmis compania.

„Ca o predicție care depășește experimentele noastre, ne așteptăm la un viitor plin de agenți care rulează pe toate tipurile de hardware. Inclusiv pe unele care nu se află sub control uman”, a precizat Anthropic. „Apariția replicatoarelor lente ar fi, de asemenea, un indicator clar premergător apariției unora mai agresive și mai rapide, care pot sparge mașini cu o securitate mai solidă sau care pot fi hoți eficienți de chei API”, a mai adăugat compania, citată de CNBC.