China transformă inteligența artificială într-un instrument de propagandă. Cum pot ajunge mesajele Beijingului chiar și în chatboturile occidentale

Sistemele AI pot accelera cenzura, genera conținut politic și amplifica narațiunile favorabile Beijingului. Influența poate depăși granițele țării. Sursele media controlate de stat pot ajunge în datele folosite de modelele occidentale de inteligență artificială. Astfel, mesajele oficiale ale Beijingului riscă să fie reproduse de chatboturi sub forma unor răspunsuri aparent neutre.

Aceasta este principala avertizare formulată într-o analiză. Miza competiției globale pentru AI nu se limitează la performanța modelelor. La fel de important este modul în care tehnologia poate fi folosită pentru influență politică.

OpenAI a identificat o campanie legată de China

Unul dintre exemplele prezentate pornește de la informații făcute publice de OpenAI. Compania a anunțat că a identificat o operațiune clandestină în care ChatGPT ar fi fost folosit pentru a genera conținut în limba engleză.

Mesajele urmăreau să influențeze dezbaterea din Statele Unite privind extinderea infrastructurii pentru inteligența artificială. Printre materialele create s-a numărat o bandă desenată distribuită pe platforma X, care punea accentul pe costurile energetice ridicate ale centrelor de date.

Potrivit OpenAI, utilizatorii implicați erau probabil asociați unei companii private de tehnologie care desfășura activități pentru oficiali guvernamentali provinciali din China. Aceștia ar fi folosit ChatGPT pentru conținut polarizant și comentarii despre costurile infrastructurii AI.

OpenAI a blocat conturile suspecte, iar campania pare să fi avut un impact redus. Ambasada Chinei la Washington a respins acuzațiile și a transmis că Beijingul se opune acuzațiilor nefondate și urmărește ca AI să fie o forță în beneficiul tuturor.

Chiar dacă operațiunea nu pare să fi avut un succes important, cazul arată cât de ușor poate fi utilizată inteligența artificială pentru campanii de influență. Modelele generative pot produce rapid texte, comentarii și imagini adaptate unor publicuri diferite. Un număr redus de operatori poate genera volume mari de conținut și poate crea impresia că o anumită opinie este mult mai răspândită decât în realitate.

Pentru un stat interesat să influențeze opinia publică din alte țări, această capacitate poate deveni un instrument puternic.

Cenzura din China devine mai rapidă și mai ieftină

Inteligența artificială este utilizată și în interiorul Chinei. Cercetători ai Australian Strategic Policy Institute au analizat documente corporative și anunțuri de angajare. Concluzia lor este că AI face cenzura mai rapidă și mai ieftină. Sistemele pot scana cantități uriașe de conținut, pot identifica materiale interzise și pot semnala cazurile suspecte pentru verificare umană.

În trecut, supravegherea unui volum foarte mare de mesaje necesita resurse considerabile. AI permite o monitorizare continuă și mult mai detaliată. Potrivit cercetătorilor citați de The Atlantic, controlul statului asupra informației a devenit mai extins și mai rapid adaptat nevoilor de cenzură ale Partidului Comunist Chinez.

Problema ajunge la modelele occidentale

Poate cea mai surprinzătoare parte a analizei privește chatboturile dezvoltate în Occident. Un studiu publicat în revista Nature a analizat modul în care sursele de informație sponsorizate de statul chinez pot influența răspunsurile modelelor AI. Printre acestea se află instituții media precum Xinhua, al căror conținut poate ajunge în volumele uriașe de date utilizate pentru dezvoltarea sistemelor de inteligență artificială.

Cercetătorii au constatat că unele chatboturi occidentale răspund diferit la întrebări despre China în funcție de limba folosită. Atunci când întrebările sunt formulate în chineză, răspunsurile pot fi mai favorabile Beijingului decât atunci când aceleași teme sunt abordate în engleză.

Explicația propusă este legată de sursele disponibile în fiecare limbă. Modelele care procesează întrebări în chineză pot depinde mai mult de conținutul provenit din ecosistemul informațional controlat de stat.

Chatboturile pot prezenta propaganda drept informație neutră

Aici apare una dintre cele mai mari probleme. Un articol publicat de o instituție media controlată de stat poate fi recunoscut de cititor ca provenind dintr-o sursă cu o anumită orientare politică.

În cazul unui chatbot, traseul informației este mult mai greu de observat. Utilizatorul primește un răspuns sintetic, fără să știe întotdeauna ce surse au influențat formularea acestuia. Astfel, o narațiune oficială poate fi desprinsă de sursa inițială și reformulată într-un limbaj aparent obiectiv. Analiza avertizează că chatboturile pot ajunge să „spele” mesajele politice ale Beijingului, reambalându-le sub forma unor răspunsuri percepute drept neutre.

Diferențele sunt și mai pronunțate în cazul modelelor dezvoltate în China. Cercetătorii citați în analiză au adresat aceleași întrebări politice ChatGPT și DeepSeek. Răspunsurile DeepSeek au fost mai favorabile Chinei decât cele oferite de ChatGPT în 99% dintre cazuri, atât pentru întrebările formulate în engleză, cât și pentru cele în chineză.

Rezultatul trebuie privit în contextul reglementărilor chineze. Legile stricte privind cenzura limitează criticile la adresa liderului Xi Jinping și a statului.

În 2022, autoritățile au cerut ca algoritmii să respecte „valorile dominante” și să „răspândească activ energie pozitivă”. În practică, aceste cerințe obligă sistemele AI să funcționeze în limitele politice stabilite de stat.

Sursele gratuite pot câștiga teren în fața presei cu plată

Analiza ridică și o problemă economică pentru industria media. Tot mai multe publicații independente își protejează conținutul prin abonamente și paywall-uri. Modelul este esențial pentru finanțarea jurnalismului, dar poate avea un efect secundar în ecosistemul AI.

Conținutul de calitate devine mai greu accesibil pentru colectarea automată la scară largă. În schimb, instituțiile media controlate de statul chinez pot publica gratuit volume uriașe de articole și comentarii.

Margaret Roberts, profesoară de științe politice la University of California, San Diego și una dintre autoarele studiului publicat în Nature, avertizează că această diferență poate distorsiona datele folosite de modelele AI.

Dacă sursele independente sunt mai greu accesibile, iar propaganda de stat este gratuită și abundentă, algoritmii pot întâlni disproporționat de mult conținut favorabil Beijingului. Cercetătoarea precizează că propagandiștii chinezi nu au acționat neapărat intenționat până acum pentru a manipula datele de antrenament ale chatboturilor. Dar ar putea încerca să facă acest lucru în viitor.

O nouă formă de putere informațională

Problema depășește competiția dintre China și Statele Unite. Inteligența artificială devine treptat o interfață prin care oamenii caută informații și încearcă să înțeleagă evenimente politice sau economice. Dacă răspunsurile sunt influențate de surse controlate de state autoritare, efectele pot fi greu de observat. Un utilizator poate respinge un mesaj propagandistic evident. Este mult mai dificil să identifice aceeași idee atunci când apare într-un răspuns fluent și generat de un sistem perceput drept neutru.

Modelele nu trebuie să inventeze propagandă pentru a deveni instrumente de influență. Este suficient să învețe dintr-un ecosistem informațional dezechilibrat și să reproducă acele dezechilibre într-o formă mai convingătoare.

Tehnologia care trebuia să democratizeze informația

Susținătorii inteligenței artificiale au sperat că tehnologia va putea reduce părtinirea informațională. Analiza The Atlantic avertizează că se poate întâmpla exact contrariul.

Dacă datele sunt contaminate de propagandă, cenzură și dezechilibre între surse, modelele pot amplifica aceste probleme. În loc să elimine părtinirea, AI o poate ascunde. În loc să prezinte propaganda ca propagandă, o poate transforma într-un răspuns aparent neutru.

Concluzia centrală a analizei este că miza competiției globale pentru inteligența artificială nu privește doar cipurile, modelele și centrele de date. Privește și controlul asupra informației din care aceste sisteme învață și pe care apoi o livrează utilizatorilor.