EN DIRECT DU PAYS DE L'ONCLE SAM L’essor des deepfakes : l’intelligence artificielle face au défi de la véracité et de la confiance numérique.

https://www.ia-info.fr/l-essor-des-deepfakes-l-ia-face-au-defi-de-la-veracite-et-la-confiance-numerique.htmlLe portail site ia-info.fr est un portail d'informations spécialisé dans l'intelligence artificielle (IA) et l'IA générative, offrant des mises à jour, analyses approfondies et perspectives d'experts sur le sujet. La rubrique "De l'Autre Côté de l'IA" du site explore la progression de l'IA dans l'économie et la société Américaine.Cet article examine la montée des deepfakes, notamment via l'application Sora, et les défis majeurs posés à la véracité et à la confiance numérique. Il détaille comment cette technologie facilite la création de vidéos hyperréalistes, soulevant des préoccupations concernant la désinformation, l'atteinte à la vie privée, et le phénomène du "dividende du menteur". Le texte aborde également les solutions, telles que la Coalition for Content Provenance and Authenticity (C2PA), visant à tracer et certifier l'authenticité des contenus multimédias, bien que leur adoption par les plateformes sociales reste insuffisante. Le Washington Post a testé différentes plateformes à l'aide d'une vidéo générée avec Sora, la nouvelle application vidéo puissante. L’application Sora permet de créer de manière très simple et rapide des vidéos hyperréalistes, utilisant des visages et des voix d’individus réels, parfois sans consentement explicite. Cette facilité d’usage représente un pas inédit dans la démocratisation des deepfakes, des contenus générés par intelligence artificielle avec une qualité assez élevée pour tromper l’œil humain. Des vidéos créées par Sora peuvent montrer des personnes dans des situations factices, parfois très compromettantes, amplifiant ainsi les risques de désinformation, atteintes à la vie privée ou manipulation politique.