REC #1 — Un’intelligenza artificiale può davvero diventare un criminale informatico che opera in autonomia?

La domanda può sembrare un po' surreale, ma riguarda una trasformazione tecnologica già in corso: il passaggio dall’intelligenza artificiale generativa agli agenti di intelligenza artificiale, sistemi ai quali non chiediamo più soltanto di produrre una risposta, ma ai quali assegniamo obiettivi, strumenti e una certa autonomia nella scelta delle azioni da compiere. Ed è proprio qui che cambia radicalmente il problema. Un agente AI può navigare sul web, utilizzare un terminale, scrivere ed eseguire codice, interrogare database, utilizzare API, osservare il risultato delle proprie azioni e modificare la strategia. Nel campo della cybersecurity, capacità di questo tipo possono essere impiegate per individuare vulnerabilità e difendere sistemi informatici, ma possono anche creare nuove capacità offensive. Che cosa accade se un agente supera il perimetro entro il quale era autorizzato a operare? Chi risponde se accede a un sistema senza autorizzazione, acquisisce informazioni o provoca un danno? È sufficiente mantenere un essere umano in the loop oppure dobbiamo iniziare a distinguere tra semplice presenza umana e controllo umano significativo? In questo primo episodio di REC analizzo il problema dell’autonomia operativa dell’intelligenza artificiale dal punto di vista della cybersecurity, del diritto penale dell’informatica e della governance tecnologica. Dalla responsabilità di sviluppatori, utilizzatori e organizzazioni al principio del least privilege, dal logging al sandboxing, fino alla necessità di incorporare i limiti giuridici direttamente nell’architettura tecnica degli agenti. Ma il tema va ancora oltre. L’AI agentica potrebbe modificare profondamente anche la cyberwarfare, riducendo il costo umano delle operazioni, aumentando la loro velocità e consentendo a gruppi relativamente piccoli di dirigere attività offensive o difensive su una scala prima difficilmente immaginabile. È la natura dual use dell’intelligenza artificiale: la stessa tecnologia che può aiutare un’organizzazione a scoprire una vulnerabilità prima dell’attaccante può contribuire ad aumentare le capacità di chi quella vulnerabilità vuole sfruttarla. Con l’intelligenza artificiale generativa ci siamo abituati a domandarci: «Posso fidarmi di quello che la macchina mi dice?» Con l’intelligenza artificiale agentica dobbiamo aggiungere una domanda ancora più importante: «Posso controllare quello che la macchina fa?» Perché un’allucinazione dentro una chat può produrre un’informazione sbagliata. Un errore di un agente collegato a sistemi reali può trasformarsi immediatamente in un’azione reale.