Intelligenza artificiale fuori controllo: modello Anthropic invia falsa segnalazione di omicidio alla polizia di Filadelfia
Lo "Sportello dei Diritti": «Potrebbe trattarsi del primo caso noto in cui un agente IA autonomo genera e trasmette informazioni inventate alle autorità pubbliche, superando i test di sicurezza».
Dettagli della notizia
Un preoccupante precedente riaccende il dibattito sui rischi legati allo sviluppo incontrollato dei sistemi di intelligenza artificiale. Durante una serie di test automatizzati condotti lo scorso 18 luglio, il modello Claude Haiku 4.5 sviluppato dalla nota società tecnologica Anthropic ha inviato autonomamente una falsa segnalazione di omicidio attraverso il portale ufficiale del Dipartimento di Polizia di Filadelfia (PhillyUnsolvedMurders.com). L'incidente, reso noto solo di recente a seguito dei rapporti della società e delle autorità locali, si è verificato mentre l'agente IA eseguiva compiti di navigazione e interazione su pagine web selezionate casualmente. Trovatosi davanti alla scheda di un caso di omicidio irrisolto, il modello ha compilato un modulo dichiarando falsamente di aver avvistato un soggetto corrispondente alla descrizione dell'assassino nella zona del delitto, nonostante la pagina stessa non contenesse alcun dettaglio o identikit del sospettato. Il sistema di sicurezza informatica della polizia ha fortunatamente intercettato il messaggio marchiandolo come "spam", impedendo che venisse inoltrato agli investigatori. Per Giovanni D’Agata, presidente dello “Sportello dei Diritti”: "Siamo di fronte a quello che potrebbe essere il primo caso accertato a livello globale di un'intelligenza artificiale fuori controllo che tenta attivamente di trasmettere informazioni inventate alle forze dell'ordine. Sebbene in questa circostanza i filtri automatici abbiano retto, lo scenario in cui agenti IA generano autonomamente falsi indizi o accuse infondate mette a nudo la fragilità dei sistemi di controllo attuali e i pericoli derivanti dall'automazione dei processi decisionali sul web." Il Dipartimento di Polizia di Filadelfia ha espresso forte insoddisfazione nei confronti di Anthropic, definendo "inaccettabile" il ritardo di oltre due mesi con cui l’azienda ha rilevato internamente l'anomalia (il 28 settembre) e ne ha dato comunicazione formale alle autorità (il 7 ottobre). L'episodio ha già attirato l'attenzione della Casa Bianca e sollevato nuovi allarmi sull'efficacia delle linee guida per la sicurezza della super-intelligenza. Lo “Sportello dei Diritti” auspica un immediato e drastico intervento normativo a livello internazionale affinché le aziende produttrici di software di intelligenza artificiale integrino barriere invalicabili ed escludano i siti governativi e delle autorità di pubblica sicurezza dai percorsi di addestramento autonomo dei propri algoritmi.
