#406 Reprendre le pouvoir sur nos décision à l'ère de l'I.A. avec Olivier Sibony et Eric Hazan

Olivier Sibony est professeur à HEC et spécialiste de la décision. Eric Hazan est investisseur et ancien senior partner chez McKinsey. Ils viennent de publier ensemble "Faut-il encore décider ?", un livre qui refuse d'être technophobe comme il refuse d'être technophile, et qui cartographie ce qu'on peut confier à une IA et ce qu'on doit garder pour soi.Je les connais tous les deux, mais séparément, et c'était la première fois que je les avais en face de moi ensemble. Ça se sent : ils se coupent la parole, se corrigent, se chambrent sur les anglicismes, et surtout ils ne sont pas toujours d'accord. C'est exactement ce que je cherchais.Ce qui m'a le plus remué dans cette conversation, c'est cette idée qu'on ne se fait pas déposséder de nos décisions : on les abandonne. Par confort. Parce qu'on est fabriqués pour économiser notre énergie, et qu'une réponse bien formulée par une machine nous suffit largement.Dans cet épisode, nous parlons de l'effet de contentement, du risque de démission, de ce que devient la confiance en soi quand on fait relire chacun de ses mails, de la justice et du recrutement comme zones interdites, du deskilling, de la joie au travail, et de ce scénario de technocratie IA vers lequel on glisse sans l'avoir choisi.J'ai questionné Olivier et Eric sur ce que ça fait aux jobs, sur les valorisations d'OpenAI et d'Anthropic qui dépassent le PIB de la Pologne, et sur ce fameux moment où le médecin, l'ego coincé entre lui et la machine, fait moins bien que la machine seule.Une conversation dense, drôle par moments, et qui m'a laissé avec une question simple : sur quoi est-ce que je refuse de lâcher, moi, et pourquoi ?Citations marquantes« Le risque, c'est d'avoir toujours tendance à se défausser sur la machine, à lui demander une réponse et à finalement abdiquer toute responsabilité. Et ça, c'est un vrai danger. » (Olivier Sibony)« Les meilleurs médecins ont à peu près 74 % d'acuité, la machine 90 %. Mais quand tu mets les meilleurs médecins avec la machine, ils n'ont que 76 %. » (Eric Hazan)« Comment tu vas utiliser une IA comme partenaire de réflexion pour mieux réfléchir, et non pas comme une béquille sur laquelle tu vas te reposer pour ne pas réfléchir ? Toute la différence est là. » (Olivier Sibony)« L'IA est en train de devenir l'infrastructure du monde et notre infrastructure personnelle. On marche sur un petit tapis roulant, et on n'a aucun moyen de savoir comment il a été programmé. » (Eric Hazan)« Penser est un plaisir. Réfléchir n'est pas seulement instrumental : on le fera aussi pour le plaisir, comme on joue du piano. » (Olivier Sibony) Idées centrales discutées 1. L'IA générative pense comme notre système 1, et c'est exactement le piège (03:30 – 07:20)L'histoire de l'IA a commencé par une tentative de répliquer le système 2 : les règles, le calcul, les systèmes experts des années 70-80. Ça n'a jamais marché. L'IA générative, elle, imite le système 1 : rapide, fluide, spontanée, presque humaine. Pourquoi ça compte : quand ChatGPT nous dit de vérifier, il nous demande d'activer notre système 2. Or c'est fatigant. Alors on lit la réponse avec notre système 1, on la trouve plausible parce qu'elle est bien formulée, et on ne vérifie pas.2. L'effet de contentement et le risque de démission (08:00 – 09:40)Se satisfaire d'un résultat correct sans se demander s'il en existe un meilleur. Olivier l'appelle l'effet de contentement, Eric y ajoute le risque de démission : on abdique la responsabilité de la décision. Pourquoi ça compte : le problème n'est pas que la machine décide mal, c'est que personne ne décide plus vraiment. Et quand tu n'as pas réfléchi par toi-même, tu ne sais même pas ce que ta réponse aurait donné.3. Un LLM généraliste n'est jamais un bon outil de décision (14:40 – 16:00)Un outil d'aide à la décision, c'est un outil entraîné spécifiquement sur ta décision, avec tes objectifs, tes données, et testé sur un échantillon suffisant pour vérifier qu'il fait mieux que toi. Pourquoi ça compte : personne ne demanderait à ChatGPT le prix du siège d'un Paris–New York. Et pourtant on lui demande des décisions de recrutement, de couple, de carrière.4. Le paradoxe du médecin : l'ego entre la machine et le diagnostic (12:00 – 13:20)74 % d'acuité pour les meilleurs médecins, 90 % pour la machine, 76 % pour les deux ensemble. L'expérience du praticien s'intercale et dégrade le résultat. Pourquoi ça compte : ça retourne l'intuition dominante du "human in the loop". Sur certaines décisions, l'humain dans la boucle est le maillon qui abîme la performance. Le vrai gain, c'est de rendre au médecin le temps de l'empathie, pas de maximiser le nombre de patients.5. Performance x acceptabilité : la carte des décisions (24:00 – 26:15)Deux axes. Ce qui est performant et acceptable : trading haute fréquence, logistique, optimisation de données massives avec des règles claires. Ce qui est performant mais pas encore accepté : la voiture autonome, malgré plus de 40 000 morts par an au volant aux États-Unis. Ce qui reste inacceptable : la justice, l'évaluation des personnes. Pourquoi ça compte : un humain doit juger un autre humain en le regardant dans les yeux. La théâtralité du procès fait partie de la procédure démocratique, pas du folklore.6. Le deskilling n'est pas nouveau, la vraie question est de savoir ce qu'on refuse de perdre (26:15 – 30:00)On a cessé d'extraire des racines carrées à la main, on a gardé les tables de multiplication. Le GPS abîme peut-être l'hippocampe. Perdre une compétence libère du temps pour autre chose. Pourquoi ça compte : la bonne question n'est pas "est-ce que je perds des compétences", mais "quelles compétences, pour qui, sont assez importantes pour que je refuse de les perdre". Au cas par cas, personne par personne.7. Les jobs ne disparaissent pas d'un coup, l'économie est visqueuse (41:00 – 49:00)Le FMI évalue 22 à 25 % de la population active à risque d'automatisation quasi totale. Mais la transition industrielle prend une quinzaine d'années, et les entreprises ne font pas ce qui serait pourtant rentable. Deux consultants avec un demi-siècle de métier à eux deux l'ont vérifié mille fois. Pourquoi ça compte : les tâches disparaissent, les jobs se reconfigurent, d'autres apparaissent. Il y a plus de radiologues qu'avant. Il y a vingt ans, on ne pouvait pas imaginer le métier de podcaster.8. Il manque une infrastructure de la confiance (55:40 – 57:20)Quand tu achètes 400 grammes de carottes, tu ne demandes pas si la balance est truquée : quelqu'un l'a certifiée, et ce quelqu'un est certifié par l'État. Pour l'IA, cette chaîne n'existe pas. Pourquoi ça compte : aujourd'hui, un DRH sait que son outil de tri de CV est bon parce que la startup qui le lui a vendu le lui assure. C'est comme demander au boucher si la viande est bonne.Questions posées dans l'interviewPourquoi écrire ce livre à deux, et qu'est-ce que la décision et l'IA se disent l'une à l'autre quand on les croise ?C'est quoi le système 1 et le système 2, et pourquoi cette distinction éclaire-t-elle l'histoire entière de l'IA ?Qu'est-ce que l'effet de contentement, et comment savoir qu'on est en train d'y tomber ?Que se passe-t-il quand des millions de gens utilisent un LLM comme psy, sachant qu'il ne produit qu'une moyenne statistique de toutes les réponses possibles ?Est-ce que ça vous dérange que notre infrastructure cognitive quotidienne soit américaine, entraînée sur des valeurs qui ne sont pas les nôtres ?Quelles sont les décisions qu'on ne devrait jamais déléguer à une IA, et pourquoi la justice en fait partie ?Le deskilling : où est la limite entre une compétence qu'on peut abandonner et une compétence qui nous constitue ?Que fait l'IA à la confiance en soi de celui qui n'ose plus envoyer un mail sans le faire relire ?Comment repense-t-on la formation des juniors quand on automatise précisément les tâches qui servaient à les former ?Quels sont les jobs réellement à risque, et que valent les prédictions des entreprises qui ont besoin de justifier leur valorisation ?Quelles questions un dirigeant doit-il se poser avant de décider ce qu'il délègue à une IA ?Comment sait-on qu'on peut faire confiance à un système d'IA, et qui est censé le certifier ?Que penser d'un pays qui nomme une IA à la place d'un ministre, ou d'un patron qui remplace son management intermédiaire par des agents ?À quoi voulez-vous ouvrir, et à quoi voulez-vous claquer la porte ?Références citées dans l'épisodeLivres et auteurs"Faut-il encore décider ?", Olivier Sibony et Eric Hazan, le livre discuté (01:00)Daniel Kahneman, "Système 1 / Système 2" ("Thinking, Fast and Slow"), socle de toute la première partie (02:56, 03:35)Chercheurs et acteurs de l'IAYann LeCun, ex-responsable de l'IA chez Meta, sur les limites des Transformers et les World Models (37:40 – 40:40)Alex Lebrun et AMI Labs (Advanced Machine Intelligence Lab), société créée à Paris, valorisée environ 3,5 milliards de dollars pour environ 1 milliard levé (40:20 – 41:00)Fei-Fei Li, ex-Google, citée comme l'une des rares personnes travaillant sur les World Models (40:00)Mark Zuckerberg, annonce de son clone IA accessible à tous ses employés (59:40)Jack Dorsey, patron de Block (ex-Square), suppression annoncée du management intermédiaire, note "de la hiérarchie à l'intelligence" (60:00 – 60:40)Elon Musk, cité pour son scénario d'IA maximaliste (50:50)Études et institutionsÉtude Anthropic sur les utilisateurs qui perdent confiance dans leur propre système de valeurs (10:45)Étude Brookings sur l'automatisation qui supprime les barreaux de l'échelle de promotion interne, et sur les tâches automatisées qui faisaient partie de la joie au travail (30:50 – 33:00)FMI : 22 à 25 % de la population active à risque d'automatisation quasi totale (46:20)État du Maine et une douzaine d'autres États américains interdisant de nouveaux data centers (43:50)Professeurs d'université français se déclarant objecteurs de conscience face à l'IA générative (43:30)Outils et conceptsChatGPT, Claude, Gemini (09:40, 05:40)NotebookLM, cité comme piste de contrôle des sources (57:20)Friction fonctionnelle : une IA qui pose des questions au lieu de donner des réponses (52:00)Codécision, modèle central du livre (22:30, 54:30)Biais d'automatisation, effet de contentement, deskillingDestruction créatrice de Schumpeter (45:50)Personnalités mentionnées par GregEsther Perel, comme exemple de figure que les gens demandent aux LLM d'imiter sur les relations de couple (10:00)Timestamps clés 00:00 – Introduction Faut-il encore décider ? La question de l'épisode, posée d'entrée : où suis-je pertinent, où la machine l'est-elle davantage, et pourquoi déléguons-nous plus que nous ne devrions.01:50 – Deux auteurs, deux expertises Pourquoi écrire ce livre à deux : Olivier a passé sa vie sur la décision, Eric sur l'IA. Un livre qui refuse à la fois la technophobie et la technophilie.03:30 – Système 1, système 2, et l'histoire de l'IA L'IA des années 70-80 voulait copier notre pensée formelle et a échoué. L'IA générative imite notre pensée intuitive, et c'est pour ça qu'elle nous paraît presque magique.06:10 – Pourquoi on ne vérifie jamais Le système 1 est toujours actif. Vérifier demande un effort. Comme la machine s'exprime bien, on trouve sa réponse plausible et on s'arrête là.08:00 – L'effet de contentement Se satisfaire d'un résultat correct sans se demander s'il en existe un meilleur. Le moment où on cesse d'être exigeant.09:00 – Le risque de démission Déléguer les décisions qu'on ne devrait pas déléguer, par paresse. Et l'usage de l'IA générative comme psy, qui n'est qu'une moyenne statistique de toutes les réponses possibles.11:00 – Le biais d'automatisation Plus la machine est sophistiquée, plus on lui fait confiance. Y compris dans des contextes de guerre où elle indique où tirer.12:00 – Le chiffre qui dérange 74 % pour les meilleurs médecins, 90 % pour la machine, 76 % pour les deux ensemble. L'ego du praticien s'intercale et dégrade le diagnostic.14:00 – Un compagnon électronique, est-ce grave ? Distinguer la conversation qui tient compagnie de la décision. Olivier assume : il n'a pas de problème avec la première.14:40 – Vos objectifs, pas ceux de la machine Pourquoi un LLM généraliste n'est jamais un bon outil de décision, et ce qu'est un vrai outil d'aide à la décision.16:00 – Le tapis roulant L'IA devient l'infrastructure du monde et notre infrastructure personnelle, programmée par d'autres, pour leurs objectifs. Et l'anecdote des dash que l'IA refuse d'abandonner.19:00 – Le vrai sujet, ce sont les finalités Plutôt que traquer les biais de la machine américaine, définir les objectifs qu'on veut poursuivre. Exemple concret sur le recrutement : le mauvais prompt et le bon.22:30 – Déléguer, codécider, refuser Les trois régimes. Quand un radiologue confie ses radios à l'IA pour passer plus de temps avec son patient, ce n'est pas du temps perdu.24:00 – La carte : performance et acceptabilité Trading et logistique d'un côté, voiture autonome dans la zone grise, justice de l'autre. Un humain doit juger un autre humain.26:15 – Le deskilling Les tables de multiplication, la racine carrée à la main, le GPS et l'hippocampe. Chaque compétence perdue libère du temps, mais lesquelles refuse-t-on de perdre ?28:50 – Penser est un plaisir On peut obtenir un morceau infiniment meilleur en appuyant sur un bouton, et pourtant des gens jouent encore du piano. L'activité mentale comme fin en soi.29:50 – L'ennui des enfants Un passage indispensable à la construction cognitive, devenu rare. Et la réponse d'Olivier, qui déplace le problème vers les parents.30:30 – Les juniors, la formation, la joie au travail L'automatisation retire des barreaux à l'échelle de la promotion interne. Et elle automatise parfois précisément ce qui donnait de la joie au travail.33:50 – La perte de confiance en soi Celui qui n'ose plus envoyer un mail en anglais sans le faire relire. Est-ce l'IA qui abîme la confiance, ou est-ce qu'elle montre où était la barre ?36:50 – Une IA qui penserait comme un système 2 ? Le Graal technique : garder la richesse et la vitesse, sans les erreurs de raisonnement.37:40 – Yann LeCun et les World Models Pourquoi il n'y a pas de voitures autonomes à Paris, pourquoi une IA ne sait pas prévoir la chute d'un verre, et ce que changeraient des modèles qui comprennent le monde en 3D.41:00 – Les jobs : ce que dit le hype et ce que dit la réalité Les valorisations d'OpenAI et d'Anthropic dépassent le PIB de la Pologne. Il faut bien justifier ça par une révolution radicale et rapide.43:20 – Le backlash a déjà commencé Professeurs objecteurs de conscience, États américains qui interdisent les data centers. Extrapoler une tendance sans anticiper les réactions est l'erreur de prévision la plus courante.45:00 – Tâches, jobs, et manque d'imagination Il y a plus de radiologues qu'avant. Et il y a vingt ans, personne ne pouvait imaginer le métier de podcaster.46:20 – Les chiffres et la viscosité de l'économie 22 à 25 % de la population active à risque selon le FMI, mais une transition sur une quinzaine d'années. Ce qui est rentable n'est pas fait pour autant.48:40 – Un plan Marshall de la formation La seule chose vraiment utile à faire, et pourquoi il ne faut pas mettre de bâtons dans les roues de la transition.50:40 – Le scénario technocratie IA Un monde où quelques acteurs technologiques maîtrisent notre destin. On y va, non par bêtise, mais parce qu'on ne se pose pas les questions.53:40 – Les bonnes questions pour un dirigeant Ai-je assez de données ? Mes objectifs sont-ils clairs ? Et surtout : comment je sais que je peux lui faire confiance ?55:40 – Le test du boucher Un DRH qui sait que son outil de tri est bon parce que le vendeur le lui affirme. Là où on recevait 1 000 CV, on en reçoit 10 000.57:00 – L'infrastructure de la confiance 400 grammes de carottes, une balance certifiée, un service de l'État. Ce qui existe pour l'épicier n'existe pas encore pour l'IA.58:00 – Une IA ministre, un clone de Zuckerberg La croyance sous-jacente : le management ne serait qu'un tuyau de transmission d'informations. Il suffit d'avoir travaillé un peu en entreprise pour voir le problème.61:40 – Ouvrir la porte, claquer la porte Ce à quoi les deux invités veulent ouvrir, et ce qu'ils refusent : le catastrophisme technophobe qui suppose, sans jamais le dire, que l'humain est parfait. Suggestion d'autres épisodes à écouter : #188 Comment prendre de meilleures décisions? Avec Olivier Sibony (https://audmns.com/yXyKFbD) #357 Eduquer nos enfants à l'ère de l'intelligence artificielle avec Mathilde Cerioli (partie 1) (https://audmns.com/yftVVet) #324 Une Intelligence Artificielle comme amoureux? La réalité depasse la fiction avec Naomi Roth (https://audmns.com/tONiUZI)Hébergé par Audiomeans. Visitez audiomeans.fr/politique-de-confidentialite pour plus d'informations.