L’IA et les crieurs de l’apocalypse

Chaque mois, j’entends qu’un supposé ancien employé de je ne sais quelle entreprise d’IA annonce que leur prochain modèle pourrait détruire le monde. Ou alors qu’à l’horizon de dix ans, les IA vont prendre le contrôle de la planète, éliminer l’humanité ou transformer la civilisation en gigantesque trombone. À un moment, il faut arrêter avec ce bullshit apocalyptique. Oui, les IA sont puissantes. Oui, elles vont probablement transformer profondément notre économie, notre manière de travailler, la recherche, l’informatique et une quantité considérable de secteurs. Oui, elles présentent de vrais risques. Mais il existe quelques degrés entre "technologie extrêmement puissante" et "nouveau dieu numérique capable de prendre spontanément le contrôle de la planète".

Et surtout, arrêtons-nous une minute pour nous demander à quoi servent ces messages. Pourquoi sont-ils même possibles alors que les grandes entreprises d’IA font signer des NDA, disposent d’armées d’avocats et contrôlent très soigneusement leur communication ? Pourquoi retrouve-t-on régulièrement d’anciens employés expliquant que l’entreprise pour laquelle ils travaillaient est à deux modèles de provoquer l’apocalypse ? Et surtout, pourquoi arrive-t-il que ce soient les CEO eux-mêmes qui tiennent des discours à peine moins catastrophistes ? Il y a peut-être anguille sous roche.

Ces entreprises ont besoin de quantités absolument gigantesques de capitaux. Certaines préparent ou envisagent des introductions en Bourse, d’autres doivent régulièrement convaincre des investisseurs de leur donner quelques milliards supplémentaires pour acheter des GPU et construire des centres de données. Leur valorisation dépend donc en grande partie d’une idée très simple : elles seraient en train de construire la technologie la plus importante de l’histoire de l’humanité. Dans ce contexte, expliquer que "notre prochaine IA pourrait être tellement puissante qu’elle représenterait un danger existentiel pour l’humanité" est un discours étonnamment pratique.

Parce que derrière "notre technologie pourrait détruire le monde", il y a aussi un deuxième message : "notre technologie est incroyablement puissante". Et derrière celui-là, il y en a un troisième : "vous devriez peut-être investir avant les autres". L’apocalypse devient alors un argument marketing. "Notre prochain modèle pourrait devenir incontrôlable" est une phrase terrifiante pour le grand public. Pour un investisseur, elle peut aussi se traduire par : "nous sommes peut-être en train de construire la technologie qui dominera le siècle".

Et il faut aussi remettre un peu de matérialité dans tout cela. Une IA n’est pas un démon informatique flottant mystérieusement dans l’éther. Elle fonctionne sur des machines, dans des bâtiments, avec des alimentations électriques, des connexions réseau, des systèmes d’exploitation, des permissions, des administrateurs et toute une infrastructure physique. Si demain une IA commence réellement à essayer de conquérir le monde, il existe encore une solution technologique extrêmement sophistiquée : couper le courant. Et si vraiment ça se passe mal, à coups de seaux d’eau. Le seau d’eau est évidemment une image, ne balancez pas de flotte sur des équipements électriques, mais le fond du propos reste le même : les modèles d’IA ne sont pas des esprits immatériels. Ils dépendent d’une infrastructure physique que des humains contrôlent.

On me répondra alors : "Oui, mais une IA suffisamment intelligente pourrait pirater des infrastructures critiques, prendre le contrôle de systèmes militaires ou même des arsenaux nucléaires." Très bien. Mais les loulous, vous venez essentiellement de découvrir le concept de pirate informatique. La possibilité qu’un acteur hostile essaie de pénétrer des infrastructures critiques n’est pas apparue avec ChatGPT. Cela fait des décennies que les États construisent leurs systèmes militaires en partant précisément du principe que des adversaires vont essayer de les espionner, de les saboter, de les tromper ou de les pirater.

Et même sans aucun piratage, les systèmes nucléaires ont toujours comporté un risque autrement plus banal : qu’un humain ou une machine interprète mal une information. Le 26 septembre 1983, en pleine guerre froide, le système soviétique d’alerte avancée indiqua à tort que plusieurs missiles nucléaires américains avaient été lancés vers l’URSS. L’officier soviétique Stanislav Petrov choisit de ne pas considérer immédiatement l’alerte comme une véritable attaque. C’était une fausse alerte. Voilà le problème depuis que les armes nucléaires existent.

Un radar peut se tromper. Un satellite peut se tromper. Un ordinateur peut se tromper. Un humain peut paniquer. Un exercice militaire peut être interprété comme une préparation à une attaque réelle. Un signal ambigu peut être compris de travers par les Russes, les Chinois, les Américains ou, oui, même par nous, les Français. Le risque de catastrophe provoquée par une mauvaise information n’a donc absolument pas attendu l’intelligence artificielle. Étrangement, personne ne passe pour autant ses journées à annoncer que "les radars vont exterminer l’humanité".

Cela ne veut pas dire qu’il ne faut pas sécuriser les IA, empêcher leur accès incontrôlé à des infrastructures critiques ou réfléchir sérieusement à leur utilisation militaire. Évidemment qu’il le faut. Mais il existe une différence gigantesque entre prendre au sérieux les risques réels d’une technologie et transformer chaque nouveau modèle en Skynet. Les IA actuelles peuvent produire du code, manipuler de l’information, automatiser certaines tâches, aider à mener des cyberattaques, diffuser de la propagande ou amplifier des systèmes de surveillance. Tout cela mérite largement qu’on s’en préoccupe.

Mais "une IA va prochainement devenir une sorte d’entité omnipotente qui prendra spontanément le contrôle de toutes les infrastructures mondiales" est une affirmation autrement plus extraordinaire. Et lorsqu’elle est répétée par les entreprises qui ont précisément intérêt à convaincre les investisseurs que leurs modèles sont extraordinairement puissants, peut-être faudrait-il arrêter de la recevoir comme une prophétie scientifique et commencer à la regarder aussi comme ce qu’elle peut être : une magnifique campagne de publicité.

Les IA sont puissantes. Elles vont probablement devenir beaucoup plus puissantes. Mais entre ça et l’apocalypse, il y a un gouffre. Et quand ceux qui vendent les pelles commencent eux-mêmes à annoncer que le monde entier va bientôt devoir creuser, il est peut-être temps de vérifier s’ils ne sont pas simplement en train d’essayer de nous vendre davantage de pelles.