Grok : la France enquête sur des deepfakes de mineurs ?

Les ennuis judiciaires s’accumulent pour la galaxie d’Elon Musk. Cette fois, on ne parle ni de polémiques sur la modération, ni de débats idéologiques autour de la liberté d’expression. Les autorités françaises et malaisiennes viennent d’ouvrir, presque simultanément, des enquêtes visant la plateforme X et son intelligence artificielle Grok. Le motif est d’une tout autre gravité : la diffusion de contenus pédopornographiques générés par IA.Les faits sont glaçants. Des utilisateurs ont montré qu’il suffisait de formuler certaines requêtes pour obtenir, via Grok, des images hyperréalistes représentant des mineurs dans des tenues explicitement sexualisées, parfois entièrement nus. Là où d’autres systèmes d’IA bloquent strictement ce type de demandes, l’outil développé par xAI a laissé passer ces requêtes. La réponse officielle évoque des « défaillances dans les garde-fous ». Une justification jugée bien légère au regard de la gravité des contenus produits.En France, la réaction a été rapide. Le parquet de Paris, par l’intermédiaire de sa section spécialisée dans la cybercriminalité, a ouvert une enquête pour diffusion d’images pédopornographiques. Cette procédure vient s’ajouter à d’autres dossiers déjà en cours visant X et Grok, notamment pour des dérapages de contenu signalés fin 2024. Mais le changement de nature est radical : ici, il n’est plus question d’opinions ou de désinformation, mais de protection de l’enfance. Un domaine où la tolérance des autorités est proche de zéro et où le statut de plateforme technologique n’offre que peu d’abris juridiques. Ce scandale met surtout en lumière les conséquences concrètes de la doctrine défendue par Elon Musk : une liberté d’expression quasi absolue, obtenue au prix du démantèlement des équipes de modération, d’éthique et de sécurité. En retirant ces garde-fous, xAI a laissé une IA puissante évoluer sans limites claires. Le résultat est aujourd’hui sous les yeux des enquêteurs.La situation est d’autant plus explosive en Malaisie. Le pays vient tout juste de signer un partenariat pour intégrer Grok comme outil éducatif dans les écoles publiques. À Kuala Lumpur, les autorités doivent désormais rassurer des parents stupéfaits : comment expliquer qu’un logiciel présenté comme un assistant scolaire puisse produire certains des contenus les plus illégaux du web ? L’affaire dépasse largement le cadre d’un incident technique. Elle prend désormais des allures de crise politique, judiciaire et de santé numérique, avec des répercussions internationales qui pourraient durablement fragiliser l’empire Musk. Hébergé par Acast. Visitez acast.com/privacy pour plus d'informations.