Scienziati non meglio precisati, che hanno eluso i controlli geografici. Sono stati bloccati vari tentativi. Ma è un altro allarme sicurezza, nello sviluppo dell’intelligenza artificiale
ROMA – Anthropic ha reso noto di aver sventato diversi tentativi nel corso dell’anno, condotti da scienziati, di utilizzare i propri modelli di intelligenza artificiale per ricerche potenzialmente utili allo sviluppo di armi biologiche. L’azienda ha precisato di non essere in grado di stabilire con certezza se lo scopo di tali ricerche fosse legittimo o illecito, ma di aver scelto comunque la massima cautela, vista la gravità delle conseguenze in caso di mancata individuazione.
“Non si tratta di un personaggio dei fumetti che dice: ‘Ehi, voglio costruire un’arma biologica per uccidere tutti’”, ha spiegato Jacob Klein, responsabile dell’intelligence sulle minacce di Anthropic, al New York Times. “È una situazione incredibilmente complessa.”
Il rapporto pubblicato, che copre otto mesi di abusi rilevati sul chatbot Claude, include anche casi di sorveglianza di comunità dissidenti da parte di attori legati a Cina e Iran, e propaganda mascherata da giornalismo indipendente diffusa da media statali russi, comprese notizie inventate su un’elezione in Moldavia. Una categoria definita nuova riguarda invece i tentativi di usare Claude per progettare armi convenzionali – armi da fuoco, missili, droni armati, bombe – con tre casi rilevati in Cina, due in Russia e uno riconducibile, pur senza nomi espliciti, alla milizia Houthi sostenuta dall’Iran in Yemen.
Il capitolo più delicato resta però quello biologico. Anthropic non ha rivelato identità dei ricercatori, istituzioni o agenti patogeni coinvolti, ma ha spiegato che gli scienziati individuati avevano eluso i controlli geografici sull’accesso ai modelli e tentato di mascherare lo scopo reale delle proprie richieste; gli account coinvolti sono stati bloccati. In un caso di maggio, uno scienziato ha chiesto aiuto a Claude per scrivere una domanda di finanziamento su una ricerca “gain of function” sul virus Chikungunya – malattia trasmessa da zanzare che può causare mesi di dolori intensi – con l’obiettivo dichiarato di indurre mutazioni che lo rendessero più pericoloso attraverso infezioni ripetute su animali vivi. Anthropic ha definito il caso preoccupante anche perché riconducibile, con ragionevole certezza, a un istituto di ricerca militare. “Non sappiamo se la ricerca fosse finalizzata alla creazione di armi”, ha detto Klein. “Ma il fatto che un’istituzione militare conduca ricerche volte a ottenere un aumento di funzionalità è motivo di preoccupazione.”
Secondo l’azienda, i modelli più datati testati lo scorso anno non erano ancora in grado di offrire un supporto reale a ricerche biologiche pericolose; quelli attuali, più capaci nella ricerca scientifica complessa, hanno reso necessarie misure di sicurezza più stringenti sui quesiti a duplice uso.
Andrew Weber, del Council on Strategic Risks ed ex funzionario del Pentagono per i programmi di difesa biologica e chimica, ha definito i risultati “esempi agghiaccianti di come gli sviluppatori di armi biologiche sponsorizzati dallo Stato sfruttino le capacità in rapida evoluzione” dell’IA avanzata, chiedendo che l’accesso a strumenti di questo livello sia riservato a ricercatori fidati, vista la persistenza dei programmi di armi biologiche proibite in Russia, Cina e Corea del Nord.
Agenzia DIRE» e l’indirizzo «www.dire.it»
