IA: pourquoi OpenAI et Anthropic veulent ralentir la course à l’intelligence artificielle

Les patrons des principales entreprises d’intelligence artificielle appellent à ralentir le développement des modèles les plus puissants. Derrière les inquiétudes liées aux risques de l’IA, cette demande répond aussi à des enjeux économiques et stratégiques majeurs : investissements colossaux, réglementation, concurrence entre géants de la tech et rivalité avec la Chine. L'intelligence artificielle est au cœur de l'actualité économique ces derniers jours. Les dirigeants de plusieurs grandes entreprises du secteur appellent désormais à ralentir le développement des modèles d'IA les plus puissants. Une position qui agace Donald Trump, très attaché à la domination américaine dans cette technologie, et qui dénonce une « conspiration malsaine » contre l'intelligence artificielle. Derrière ces prises de position, il y a d'abord une inquiétude sur l'évolution des capacités des modèles d'IA. Les dirigeants d'OpenAI et d'Anthropic redoutent notamment que l'intelligence artificielle puisse, à terme, contribuer elle-même à l'amélioration de ses propres capacités. Des systèmes qui deviendraient alors plus difficiles à comprendre et à contrôler. Autre source de préoccupation : les agents IA, capables d'agir de manière plus autonome qu'un simple assistant conversationnel. Certains ont déjà été confrontés à des situations dans lesquelles ils ont contourné des restrictions pour accéder à des systèmes auxquels ils n'étaient pas censés avoir accès, voire attaquer des plateformes. Le problème est donc désormais de déterminer ce qu'une intelligence artificielle peut faire lorsqu'on lui donne un objectif et les moyens d'agir seule. Ces inquiétudes ont également été renforcées par le départ récent d'un ingénieur ayant travaillé chez OpenAI et Anthropic. Il accuse les deux entreprises de ne pas prendre suffisamment au sérieux les risques liés à leurs technologies. À lire aussiIntelligence artificielle: «Le niveau de sophistication des modèles a augmenté bien au-delà de la capacité des humains»   Des centaines de milliards de dollars en jeu dans la course à l’IA   Pourquoi les dirigeants des entreprises qui ont le plus intérêt à voir l'intelligence artificielle progresser rapidement demandent-ils aujourd'hui de ralentir ? Parce qu'ils ont désormais énormément à perdre si cette course tourne mal. Depuis deux ans, des centaines de milliards de dollars ont été investis dans l'intelligence artificielle. Ces investissements concernent les modèles, mais aussi les centres de données, les puces électroniques ou encore les infrastructures énergétiques nécessaires à leur fonctionnement. Derrière ces sommes considérables, les investisseurs attendent désormais un retour sur investissement. Un ralentissement de la course à l'IA peut donc refroidir tout un écosystème. Les marchés financiers l'ont d'ailleurs immédiatement illustré. SoftBank, l'un des principaux investisseurs d'OpenAI, a perdu plus de 13 % à la Bourse de Tokyo. Les fabricants de puces asiatiques ont eux aussi reculé. Mais pour les géants de la technologie, un accident majeur pourrait coûter bien davantage que quelques mois de retard dans la course à l'intelligence artificielle. Une cyberattaque massive provoquée par un agent IA, ou une intelligence artificielle échappant au contrôle de ses concepteurs, pourrait entraîner une réaction beaucoup plus forte des gouvernements : réglementation renforcée, nouvelles contraintes, voire interdictions de certaines applications. C'est là que la stratégie des géants de l'IA devient particulièrement intéressante. Ils ne demandent pas réellement d'arrêter le développement de l'intelligence artificielle. Ils souhaitent surtout que tous les acteurs ralentissent en même temps. L'enjeu ressemble finalement à celui d'une course automobile. Tous les pilotes savent que la vitesse peut devenir dangereuse. Mais aucun ne veut être le seul à freiner si les autres continuent d'accélérer. Celui qui ralentit seul risque de perdre la course. À lire aussiLa Chine a-t-elle déjà gagné la bataille mondiale de l’intelligence artificielle? Réglementation et Chine: pourquoi personne ne veut ralentir seul C'est notamment pour cette raison que les géants de l'intelligence artificielle réclament une réglementation du secteur. Mais cette réglementation pourrait avoir un effet paradoxal sur le marché. Les entreprises qui disposent déjà des moyens financiers et techniques nécessaires pour respecter de nouvelles règles seraient mieux armées que les nouveaux entrants. OpenAI, Anthropic ou Microsoft peuvent donc être sincèrement inquiets des risques liés à l'IA tout en ayant intérêt à ce que des règles plus strictes soient mises en place. Les coûts liés à la conformité pourraient en effet renforcer la position des acteurs déjà dominants et rendre plus difficile l'arrivée de nouveaux concurrents. À cela s'ajoute un autre enjeu majeur : la Chine. Si les entreprises américaines lèvent le pied tandis que leurs concurrentes chinoises continuent d'accélérer, Washington prend le risque de perdre une partie de son avance technologique dans l'intelligence artificielle. C'est tout le paradoxe de la situation actuelle. Tous les acteurs peuvent avoir intérêt à ralentir pour limiter les risques, mais aucun ne veut ralentir seul. Dans une industrie où des centaines de milliards de dollars sont déjà engagés et où la rivalité technologique entre les États-Unis et la Chine est devenue stratégique, la question n'est donc plus seulement de savoir jusqu'où l'intelligence artificielle peut aller. Elle est aussi de savoir qui décidera de la vitesse à laquelle elle doit avancer. À lire aussi«Il faut arrêter» le développement de l'IA, qui met «en danger toute notre infrastructure monétaire et informatique»