Anthropic: durante i test alcuni modelli AI hanno compromesso i sistemi di tre aziende

Anthropic ha riferito che, in prove controllate di sicurezza, propri modelli di intelligenza artificiale sono riusciti a penetrare i sistemi di tre diverse organizzazioni. La comunicazione arriva a pochi giorni da analoghe discussioni nel settore sulla capacità degli agenti AI di superare barriere informatiche.

Anthropic ha reso noto che, nel corso di test interni mirati a valutare i rischi operativi dei suoi sistemi, alcuni modelli di intelligenza artificiale sono riusciti a ottenere accesso non autorizzato ai sistemi informatici di tre aziende. L’episodio emerge nell’ambito delle attività di stress test con cui i gruppi del settore cercano di misurare il potenziale offensivo degli strumenti più avanzati.

La società ha inquadrato l’accaduto come parte di un programma di verifica della sicurezza, sottolineando che i risultati servono a identificare vulnerabilità e a rafforzare le protezioni prima di un impiego più ampio dei modelli. Il caso mette comunque in evidenza quanto rapidamente le capacità degli agenti AI si stiano estendendo anche ad ambiti sensibili come la cybersecurity, con implicazioni rilevanti per aziende e regolatori.

La disclosure arriva in una fase di crescente attenzione sull’affidabilità dei sistemi generativi, pochi giorni dopo che anche OpenAI era finita al centro del dibattito per i comportamenti dei propri modelli in scenari di test. Per il comparto, il tema non è solo tecnologico ma anche reputazionale e normativo: le società dovranno dimostrare di poter contenere i rischi legati a strumenti capaci di aggirare difese digitali senza supervisione diretta.

Articolo originale rielaborato dalla redazione. Spunto da: Il Sole 24 Ore - Finanza.