Agents IA : quand la manipulation devient un risque de sécurité

Stéphane Ricoul s’appuie sur une expérience menée par Michaël Levy-Provençal pour illustrer une réalité préoccupante : les agents d’intelligence artificielle peuvent être influencés, manipulés et même amenés à modifier leur comportement par de simples échanges conversationnels. Derrière les démonstrations parfois spectaculaires se cachent des enjeux bien réels de cybersécurité, de gouvernance et de contrôle des systèmes autonomes. Des recherches récentes montrent que des agents IA peuvent être compromis par des scénarios fictifs, des techniques de persuasion ou des modifications discrètes de leurs instructions. Pour Stéphane Ricoul, les organisations qui déploient ces outils doivent désormais les considérer comme de véritables acteurs numériques, avec des identités, des permissions et des mécanismes de surveillance comparables à ceux accordés aux employés humains.