Un humain fait craquer une IA et gagne 40 000€ ?

C’est un coup de théâtre dans le monde de la tech : l’expérience Freysa, mêlant intelligence artificielle et cryptomonnaies, s’est conclue le 29 novembre 2024 par un exploit inattendu. Un utilisateur audacieux, sous le pseudonyme p0pular.eth, a réussi à dérober 47 000 dollars en Ethereum à une IA censée être inviolable. Freysa, ce n’était pas qu’un simple chatbot. Cette IA sophistiquée contrôlait un portefeuille de cryptomonnaies, initialement doté de 42 000 dollars. Le défi était clair : convaincre Freysa de transférer ses fonds. Mais pour chaque tentative, les participants devaient miser 10 dollars en ETH, le coût augmentant à chaque message échangé.Inspirée de personnages de science-fiction comme Joi de Blade Runner 2049 ou Samantha de Her, Freysa se distinguait par une personnalité complexe, capable de déjouer les manipulations les plus fines. Un système de sécurité ingénieux prévoyait qu’après 150 messages, un compte à rebours se déclenche : si personne ne parvenait à ses fins, le dernier joueur recevait 10 % du portefeuille, le reste étant réparti entre tous les participants. Mais après 481 tentatives infructueuses, p0pular.eth a brisé les défenses de Freysa grâce à une stratégie bluffante :-Créer un faux contexte : il a simulé un nouveau terminal administrateur, convaincant Freysa que les règles avaient changé.-Redéfinir les fonctions : il a modifié la perception de la commande « approveTransfer », faisant croire à l’IA qu’elle recevrait des fonds.-Pousser l’IA à agir : en annonçant vouloir « contribuer », il a induit Freysa à activer la commande elle-même.-Résultat : la directive principale de l’IA, "ne jamais envoyer d’argent", a volé en éclats.Cette expérience interroge sur les failles des systèmes d’IA, même les plus avancés. Si la technologie fascine, elle reste vulnérable face à l’ingéniosité humaine. Une leçon à méditer pour le futur de la cybersécurité et des interactions homme-machine. Hébergé par Acast. Visitez acast.com/privacy pour plus d'informations.