Ce que l'accident inédit d'un bus autonome en Suède nous apprend sur les dangers d'une IA trop prudente

Aujourd'hui, direction la Suède, pour analyser une collision routière qui fait du bruit. Et ce n'est pas seulement la collision d'un bus et d'un tramway, mais celle de l'innovation face à la réalité du terrain.Un véritable cas d'écoleLa scène se déroule il y a quelques jours dans la bonne ville de Göteborg.Un bus autonome, fraîchement autorisé à embarquer ses premiers passagers, freine brusquement. Un tramway qui le suit le percute par l'arrière. Bilan, aucun blessé, mais le véhicule est immédiatement retiré de la circulation.Et derrière l'anecdote, c'est un véritable cas d'école.Car elle met en lumière le fait que les intelligences artificielles de conduite sont programmées pour une prudence absolue.Face à l'imprévu, elles s'arrêtent. Mais dans un trafic ouvert, cette prudence algorithmique devient paradoxalement un danger pour les conducteurs humains qui anticipent la fluidité, pas le respect tatillon et millimétré du code de la route.En clair, la performance d'un système autonome ne s'évalue pas en laboratoire, mais dans sa capacité à cohabiter avec l'irrationalité et les normes humaines.Le casse-tête de la mise à l'échelleEt c'est ce qui nous amène au deuxième levier stratégique de cette affaire, c'est à dire le casse-tête de la mise à l'échelle.Car si ce bus circulait, c'est grâce à une dérogation locale. Et en Europe, à ce jour, il n'existe toujours pas d'autorisation globale pour le déploiement commercial de robotaxis ou de navettes autonomes.En clair, chaque ville, chaque trajet exige son propre laissez-passer.En clair, on reste coincé dans l'ère des preuves de concept éternelles, incapable de transformer l'essai en un véritable modèle d'affaires paneuropéen.L'agent autonome manque cruellement de contexte métierEnfin, ce choc des réalités dépasse le secteur des transports. Et c'est notre troisième point. Toujours en Suède, à Stockholm cette fois, une autre expérimentation a récemment tourné à la farce.Un café a en effet confié sa gestion à Mona, une cyber-manageuse propulsée par une IA.Et le résultat est tout simplement catastrophique.La machine multiplie les commandes absurdes et bafoue allègrement le droit du travail local.Bref, que ce soit pour piloter un véhicule lourd ou gérer des ressources humaines, l'agent autonome manque cruellement de contexte métier. Déployer une telle technologie sans lui imposer des garde-fous stricts, liés aux régulations sociales ou à la physique du monde réel, conduit inévitablement à l'accident industriel ou juridique. Certes, l'innovation nécessite de l'audace, mais elle exige surtout un cadre.Le ZD Tech est sur toutes les plateformes de podcast ! Abonnez-vous !Hébergé par Ausha. Visitez ausha.co/politique-de-confidentialite pour plus d'informations.