L’IA è ovunque e sta acquisendo sempre più utenti. Il passo logico è che diventi anche bersaglio di attacchi dannosi. Abbiamo già parlato dei pericoli del “prompt injection”, un attacco sorprendentemente facile da eseguire. Non è l’unico. Le aziende di IA stanno anche combattendo contro il “data poisoning”.
La vulnerabilità dell’intelligenza artificiale: perché anche i modelli linguistici avanzati sono facili da ingannare
Consiste nell’inserire dati manipolati in risorse che saranno poi utilizzate per l’addestramento dell’IA. Secondo una recente ricerca, non sono necessari tanti documenti dannosi per compromettere un modello linguistico come si credeva. È stato dimostrato che con soli 250 documenti “avvelenati” è stato possibile compromettere modelli con fino a 13 miliardi di parametri. Il risultato è che il modello può avere distorsioni o giungere a conclusioni errate.
È uno dei problemi che devono affrontare i browser con IA come ChatGPT Atlas o Comet. Semplicemente inserendo un prompt invisibile in un’e-mail o in un sito web è possibile indurre l’IA a fornire informazioni private, poiché non è in grado di distinguere tra un’istruzione dell’utente e un’istruzione dannosa. Nel caso degli agenti IA è particolarmente pericoloso, poiché possono eseguire azioni a nostro nome.
Secondo un rapporto di Crowd, l’IA è diventata l’arma preferita dai criminali informatici, che la utilizzano per automatizzare e perfezionare i loro attacchi, in particolare il ransomware. Il MIT ha analizzato oltre 2.800 attacchi ransomware e ha scoperto che l’80% di essi aveva utilizzato l’IA. La cifra è schiacciante.
Il Financial Times riporta che le principali aziende di IA, come DeepMind, OpenAI, Microsoft e Anthropic, stanno lavorando insieme per analizzare i metodi di attacco più frequenti e progettare strategie difensive in collaborazione. Si stanno rivolgendo a hacker etici e altri esperti indipendenti per cercare di violare i loro sistemi e rafforzarli.
I browser IA e gli agenti sono già qui, ma siamo ancora in tempo perché non c’è stata ancora un’adozione di massa. È urgente rafforzare i sistemi, soprattutto per prevenire l’iniezione di prompt che possono facilmente rubare i nostri dati.
