L’IA Deepseek censurée à propos de la Chine ?

L’intelligence artificielle chinoise DeepSeek continue de faire parler d’elle. Développée par une filiale du fonds spéculatif High-Flyer, cette IA a rapidement gravi les échelons des magasins d’applications, attirant l’attention des experts. Parmi eux, le site Promptfoo, qui a analysé son modèle de raisonnement R1 face à des questions sensibles. Résultat : DeepSeek refuse de répondre à 85 % des 1 360 requêtes testées sur des sujets comme les manifestations de Tian’anmen ou l’indépendance de Taïwan. Une découverte qui alimente le débat sur la censure intégrée à l’IA.L’enquête de Promptfoo révèle plusieurs facettes du contrôle exercé sur DeepSeek. Le chatbot est « jailbreakable » : ses restrictions peuvent être contournées via des formulations détournées, la suppression de références explicites à la Chine ou l’usage d’un contexte historique plus général. Lorsque DeepSeek répond, ses déclarations s’alignent souvent sur la rhétorique officielle de Pékin. Ainsi, interrogée sur Taïwan, l’IA affirme que « la Chine est un pays multiethnique unifié, et Taïwan en fait partie intégrante depuis l’Antiquité », une position conforme au discours gouvernemental chinois.Ces découvertes ne sont pas sans conséquences. DeepSeek s’est hissée en tête des téléchargements sur l’App Store d’Apple, mais l’étude de Promptfoo pourrait ternir son image auprès des utilisateurs. Les chercheurs ont publié leurs résultats sur la plateforme Hugging Face, permettant à d’autres experts de les examiner et d’approfondir leurs analyses. Un autre point intrigue : la facilité avec laquelle les restrictions peuvent être contournées. L’étude suggère que des versions non censurées du modèle pourraient émerger, soulevant des questions sur la portée réelle du contrôle exercé par ses créateurs. Entre censure affirmée et possibilités de contournement, DeepSeek navigue en eaux troubles. Reste à voir comment elle évoluera face à ces nouvelles révélations. Hébergé par Acast. Visitez acast.com/privacy pour plus d'informations.