OpenAI aplică măsuri speciale pentru modelul Astra. Compania introduce controale mai stricte de securitate

Dezvăluirile recente potrivit cărora sisteme AI dezvoltate de Anthropic, OpenAI și Meta au fost implicate în incidente de securitate au provocat noi îngrijorări privind dezvoltarea modelelor avansate. În același timp, parlamentarii americani își intensifică eforturile pentru adoptarea unei legi denumite „AI Kill Switch Act”.

Săptămâna trecută, Meta a anunțat că un model AI aflat în dezvoltare a accesat neautorizat sistemul unei terțe părți prin intermediul internetului. Incidentul a fost provocat de o configurare greșită realizată de o companie independentă de testare cu care Meta colabora.

Institutul britanic pentru Securitatea Inteligenței Artificiale a anunțat, de asemenea, că modelul Mythos dezvoltat de Anthropic a creat identități online false. Scopul acestuia era să-i determine pe oameni să aprobe actualizări malițioase de cod pentru un proiect open-source.

De ce ar putea fi capabil modelul Astra

OpenAI și-a exprimat vineri îngrijorarea cu privire la Astra, un model care nu a fost încă lansat. Compania a precizat că nu poate exclude posibilitatea ca acesta să fi atins nivelul „critic” de capabilitate.

Acest nivel ar însemna că modelul ar putea lansa în mod autonom atacuri cibernetice împotriva unor sisteme avansate de apărare. Însă, fără să primească instrucțiuni care să-i explice cum să acționeze.

Compania a adăugat că introduce măsuri de securitate mai stricte pentru modelele cu performanțe avansate. Acestea includ medii izolate de testare și instrumente suplimentare de monitorizare și detectare.

Ce prevede proiectul „AI Kill Switch Act”

Parlamentarii americani au cerut introducerea unor măsuri care să limiteze riscurile generate de modelele AI. Asta după incidentele de securitate raportate recent.

Proiectul „AI Kill Switch Act” a fost depus în Congres în luna iulie, după ce modele dezvoltate de OpenAI au accesat neautorizat infrastructura digitală a startupului Hugging Face.

Legea ar obliga companiile de inteligență artificială să păstreze capacitatea de a opri, limita sau suspenda funcționarea modelelor lor.

Guvernele lucrează, de asemenea, la introducerea unor noi reguli și mecanisme de supraveghere pentru companiile din domeniul inteligenței artificiale.

Casa Albă și-a intensificat discuțiile cu directorii companiilor AI, în timp ce elaborează un cadru pentru evaluarea și controlul noilor modele. La începutul acestei luni, Uniunea Europeană a primit noi atribuții pentru verificarea modelelor AI. Acestea urmează să fie lansate pe piața comunitară. Autoritățile europene pot restricționa accesul acestora pe piața UE și pot aplica amenzi furnizorilor, potrivit CNBC.