Episode 166- 4 échecs marquants de l'intelligence artificielle (et ce qu'ils nous apprennent)

4 échecs marquants de l'intelligence artificielle (et ce qu'ils nous apprennent)L'intelligence artificielle ne rate pas de la même façon qu'un logiciel classique : elle ne "bug" pas, elle produit une réponse fluide et convaincante... qui peut être totalement fausse ou inadaptée. Cet épisode revient sur 4 échecs réels et documentés : un chatbot condamné en justice, un avocat piégé par une jurisprudence inventée, une campagne publicitaire touristique qui tourne au bad buzz, et un géant du café contraint d'abandonner son IA de gestion de stock, pour en tirer des leçons concrètes applicables en entreprise.Pourquoi s'intéresser aux échecs de l'IA plutôt qu'à ses succès ?On parle de l'IA sous tous les angles, tout le temps mais rarement de ses flops. Pourtant, tout ne mène pas au succès quand on utilise une IA, et ces ratés en disent souvent plus long sur ses vraies limites que n'importe quel cas d'usage réussi.Qu'est-ce qu'un "échec d'IA" au juste ?Définition : un échec d'IA ne correspond généralement pas à un dysfonctionnement technique au sens classique. Le système continue de fonctionner normalement — il produit une réponse statistiquement probable et bien formulée, mais cette réponse peut être factuellement fausse (on parle alors d'hallucination), inadaptée au terrain réel, ou mal anticipée en amont de son déploiement.4 échecs d'IA documentés1. Le chatbot d'Air Canada condamné pour avoir inventé une politique commercialeUn client d'Air Canada a demandé au chatbot du site de la compagnie s'il pouvait bénéficier d'un tarif particulier après avoir raté son avion. Le bot a inventé une politique de remboursement rétroactive qui n'existait pas. Air Canada a plaidé que le chatbot était une "entité distincte" non responsable de ses propos : argument rejeté par le tribunal, qui a jugé la compagnie responsable et l'a condamnée à rembourser le client.Ce que ça nous apprend : si vous développez un chatbot en vous disant "je lui donne le minimum, et pour le reste il ira chercher sur Internet", vous restez responsable de ce qu'il va dire. Il faut donc surveiller de près ce qu'il est susceptible de diffuser.2. L'avocat piégé par une jurisprudence inventée par ChatGPTUn avocat américain, pressé par le temps, a utilisé ChatGPT pour trouver un cas de jurisprudence correspondant à celui de son client. L'outil lui en a fourni un... qui n'existait pas. C'était une hallucination pure. Quand le juge a voulu vérifier la référence citée dans la plaidoirie, il a découvert la supercherie, et l'avocat a été condamné à une amende.Ce que ça nous apprend : sur les sujets à forte exigence factuelle, une réponse d'IA ne se prend jamais "clé en main", elle se vérifie systématiquement.3. Chamonix et le bad buzz de la pub "générée par l'IA, sublimée par l'homme"L'office de tourisme de Chamonix-Mont-Blanc a lancé une campagne d'affichage dans le métro parisien, avec de superbes paysages de montagne accompagnés d'animaux dont une famille de renards. La mention "Image générée par l'IA, sublimée par l'homme" figurait en bas de l'affiche. Résultat : un vrai bad buzz, les internautes reprochant à l'office de tourisme de ne pas avoir simplement pris une photo de "ses" montagnes. Sauf que ce n'étaient pas les montagnes qui avaient été générées par IA, mais uniquement les animaux et personnages ajoutés au premier plan, un post dénonçant la démarche a été vu plus de 850 000 fois en 24 heures.Ce que ça nous apprend : ce n'est pas toujours l'usage de l'IA en tant que tel qui pose problème, mais la façon dont on communique dessus. Une mention mal formulée peut faire naître une polémique disproportionnée par rapport à l'usage réel qui a été fait de l'outil.4. Starbucks contraint d'abandonner son IA de gestion de stockStarbucks avait déployé un système d'IA basé sur la vision par ordinateur pour gérer automatiquement le stock de ses magasins. L'outil partait du principe que les éléments visuels à analyser (produits, rayonnages, comptages) seraient toujours parfaitement nets et standardisés. Or le réel est rarement aussi propre : photos imparfaites, textes mal lisibles, situations non anticipées. Résultat : des ruptures de stock, du surstock, et un outil finalement retiré après plusieurs mois d'utilisation, faute d'avoir été suffisamment testé en conditions réelles avant son déploiement à grande échelle.Ce que ça nous apprend : un outil d'IA construit sur l'hypothèse que "tout sera fait parfaitement" par des humains est voué à l'échec parce que nous ne sommes justement pas des machines qui produisent des données parfaitement standardisées.Les 3 réflexes à garder en tête pour éviter ces pièges en entrepriseNe jamais publier ou diffuser une réponse d'IA sans relecture humaine attentive, même quand elle semble parfaitement construite, la relecture en diagonale ne suffit pas.Tester l'IA sur des cas limites avant de la déployer : tendez-lui des pièges, posez des questions absurdes ou sensibles pendant la phase de test, c'est là, et non une fois en production, qu'il faut chercher les failles.Accepter que l'IA se trompe et prévoir un plan B : un outil qui peut halluciner doit toujours avoir un filet de sécurité humain derrière lui, avec la possibilité de reprendre la main ou d'arrêter un système qui deviendrait incontrôlable.Ce qu'il faut retenirCes quatre exemples n'ont rien d'anecdotique : ils concernent une grande compagnie aérienne, un cabinet d'avocats, un office de tourisme, et l'une des plus grandes chaînes de café au monde. Aucune organisation n'est à l'abri, quelle que soit sa taille ou son expertise.Ces flops ne représentent pas la majorité des usages de l'IA mais ce sont des rappels utiles de ce qu'elle est réellement : un outil puissant, mais pas infaillible, et pas autonome dans son jugement. La vraie compétence à développer n'est donc pas seulement de savoir utiliser l'IA, mais de prendre le temps de la tester, de la relire, et de la documenter avant de lui faire confiance en production.SourcesFrance 3 Régions, Clubic, Alpine Mag, Dynamique Mag — bad buzz de la campagne publicitaire de Chamonix (novembre 2023)Reuters, TechRadar, Solutions Numériques, Buzznews — abandon du système d'IA de gestion de stock de Starbucks (mai 2026)💡 Soutenez le podcast :✅ Abonnez-vous à DigitalFeeling sur LinkedIn ✅ Rejoignez ma newsletter : substack.com/@elodiechenol✅ Laissez 5 ⭐ sur Apple Podcasts ou Spotify ✅ Partagez cet épisode à un dirigeant qui en aurait besoin 🎙️ Abonnez-vous à Digital Feeling sur votre plateforme d'écoute préférée pour ne manquer aucun épisode.Hébergé par Audiomeans. Visitez audiomeans.fr/politique-de-confidentialite pour plus d'informations.