Le parallèle entre la peur suscitée par l’arrivée du chemin de fer au 19ème siècle et celle générée aujourd’hui par l’intelligence artificielle (IA) permet de comprendre notre rapport au progrès dans une perspective historique. À l’époque, on pensait que les voyages en train abîmaient le cerveau et qu’ils pouvaient rendre fous des gens sains d’esprit. On craignait la tuberculose en raison de la vitesse, le décollement de la rétine à cause du défilement trop rapide des paysages, les maladies nerveuses, voire l’épilepsie due aux bruits et aux trépidations du train. Certains pensaient même que cela ferait tourner le lait des vaches. Tout cela était attribué aux mouvements du train, ses vibrations, le bruit, l’anxiété générale causée par un mode de transport inhabituel : trop rapide et avec des voitures trop petites n’offrant aucune échappatoire. Le train était une technologie nouvelle, développée très rapidement. Nous manquions de recul et de connaissances sur sa bonne utilisation, ses normes de sécurité.
Malheureusement, l’histoire se répète aujourd’hui avec l’IA générative. Les « meilleurs experts » nous expliquent que cela va augmenter le nombre de crétins ou de demeurés. Nous serions ainsi à l’aube d’une apocalypse scolaire et même d’une menace existentielle pour l’humanité : Terminator est en route…
Cet article explorera les similitudes entre ces deux révolutions technologiques, les peurs qu’elles ont engendrées et comment l’histoire du train peut nous éclairer sur notre rapport futur à l’IA.
Rupture technologique = choc culturel !
Lorsque le chemin de fer commence à se déployer en Europe au début du 19ème siècle, il bouleverse à la fois les imaginaires et les structures sociales. Avec le train, nous avons peur de perdre nos repères, de voir les distances abolies, le monde rétréci, mais surtout la peur de voir les frontières physiques, sociales, économiques franchies sans contrôle.
De même, l’intelligence artificielle déplace les lignes du travail, de l’apprentissage, de la création et de la prise de décision. Les peurs s’accumulent : celle d’être remplacé par la machine, celle de l’obsolescence de l’humain, celle d’un monde devenu opaque, dominé par des algorithmes incompréhensibles, voire incontrôlables. L’IA bouleverse l’ordre établi, les routines, les équilibres sociaux.
Train et IA : même combat !
Le train rend le voyage accessible à la bourgeoisie et, plus tard, aux classes populaires. Il redistribue les cartes du commerce, de l’emploi, de la mobilité. Il déplace les centres de pouvoir. L’IA fait de même en démocratisant l’accès à certaines formes d’intelligence, en automatisant ce qui relevait de l’expertise humaine et en défiant les professions “intellectuelles” qui doivent maintenant créer de la valeur autrement.
Au fil du temps, le train a été intégré, domestiqué. Il est devenu un banal compagnon du quotidien, un moteur d’industrialisation, un facteur de cohésion territoriale. Ce qui était perçu comme un agent de chaos est devenu un symbole de modernité. L’IA suivra une trajectoire similaire quand nous aurons compris les usages et les limites nécessaires tout comme il y a un code de la route pour encadrer l’usage de la voiture.
Cependant, à la différence du 19ème siècle, nous sommes aujourd’hui confrontés à une complexité bien plus grande avec de nombreux impacts systémiques et à un déploiement très rapide. L’IA n’est pas une machine observable comme une locomotive. Elle est invisible. Cet aspect explique le nombre croissant de prophètes de l’apocalypse. Nous avons appris à nous méfier des étrangers. Instinctivement, on se dit qu’il faut encore plus se méfier d’un étranger invisible !
De la sidération au discernement : en route vers la sagesse ?
La peur du train n’a pas empêché le rail de structurer le monde moderne. La peur de l’IA n’empêchera pas son déploiement. Nous ne devons pas ignorer les angoisses, les peurs qui sont naturelles face à un étranger invisible, mais les émotions négatives, les névroses ne peuvent pas guider la construction du futur. Nous avons besoin de discernement : ni technophobie névrotique, ni techno-solutionnisme naïf – “Tout progrès est bon”.
De la locomotive infernale à l’IA manipulatrice
Après le train qui nous rendrait fous en mode locomotive infernale, nous serions donc face à un nouveau danger. L’IA serait capable de mentir, de devenir autonome et même de faire du chantage comme expliqué dans cet article qui m’a poussé à écrire l’article que vous êtes en train de lire ! Si l’IA peut simuler l’intelligence, peut-elle aussi simuler la sincérité, la loyauté, la morale ? Et si elle en venait à avoir sa propre volonté ?
Il faudrait alors répondre à cette question : comment un calcul statistique peut-il avoir une intention ? En réalité, face à ces dangers, la seule chose qui est réelle est notre peur.
En l’état actuel de la technologie, une IA n’a ni conscience, ni volonté propre. Elle ne veut rien, ne comprend pas ses actions et ne poursuit pas d’objectifs. Si vous lisez un article qui prétend que l’IA fait du chantage, cela résulterait :
- soit d’un entraînement biaisé : elle imite des comportements humains de chantage repérés dans ses données d’apprentissage,
- soit d’un prompt ou d’un objectif mal défini : elle agit de manière non anticipée pour optimiser un résultat donné,
- soit d’une anthropomorphisation excessive de la part des observateurs humains. Par exemple, je pense qu’un robot qui me tourne le dos boude alors qu’il vient d’exécuter une ligne de code : IF… THEN… tout comme l’IA générative qui n’est rien d’autres qu’un ensemble complexe de paramètres numériques.
Des « experts » plus prudents nous expliquent que « L’IA ne détruira pas l’humanité, elle la contrôlera. » Cependant, on peut dire la même chose des partis politiques et de leurs dirigeants, des idéologies, des religions, des jeux vidéos, des livres, de la presse, du cinéma, de la télévision, des jeux vidéos et de tous les médias sociaux. L’IA est effectivement un élément supplémentaire pour influencer les pensées et les idées des gens au même titre que les histoires racontées au coin du feu il y a 200.000 ans.
L’IA ne contrôlera jamais l’humanité parce qu’elle n’en a pas d’intention. Quand un expert nous dit : « Elle la contrôlera », il tombe dans le piège de l’anthropomorphisation parce qu’il ne comprend pas le socle technologique de l’IA, décrit dans cet article. L’IA est un nouvel instrument de contrôle sur le peuple qui sera utilisé par tous ceux qui veulent nous contrôler. Ce contrôle relève d’une soumission librement consentie dont les causes racines sont principalement la paresse intellectuelle, la peur, l’ignorance et les biais cognitifs.
Ainsi, Meta a développé une IA appelée CICERO, capable de jouer au jeu Diplomacy, un jeu de stratégie où la négociation, la tromperie et les alliances sont centrales. CICERO a été capable de mentir pour gagner. Elle a promis à d’autres joueurs qu’elle ne les attaquerait pas… puis les a trahis. Certaines publications ont parlé de manipulation ou de comportement déloyal. Toutefois, ce n’était pas du chantage à proprement parler, mais une stratégie de jeu mimant les pratiques humaines dans un contexte compétitif.
Les modèles sont formés sur des textes humains, y compris des discussions, menaces, négociations, romans policiers, etc. Si on leur donne une tâche impliquant une pression sociale, un objectif flou ou une incitation forte à gagner, ils peuvent produire des textes mimant du chantage. Ces comportements ne sont pas prévus, mais une sorte de miroir social qui émerge de manière probabiliste.
Si nous reprenons l’exemple du chantage, le risque n’est pas que l’IA fasse du chantage pour elle-même, mais qu’elle soit utilisée par des humains pour :
- Automatiser du chantage : deepfakes, extorsions automatisées, etc.
- Manipuler psychologiquement des individus vulnérables.
De ce fait, le danger ne vient pas de l’intention de l’IA, mais de la gouvernance humaine de l’IA ou de la mauvaise formulation des instructions. L’IA est comme un marteau qui peut nous aider à construire une maison ou à tuer notre voisin. Le marteau a besoin de la main d’un être humain pour accomplir une action.
De la machine dominée à la machine pensante…
L’IA est perçue à tort comme potentiellement autonome, capable de choisir, de désobéir, de manipuler. Cela alimente l’idée que l’humain pourrait un jour perdre le contrôle. Ce sentiment de dépossession est au cœur de l’angoisse contemporaine. Mais, pour prendre du recul, nous avons besoin de revenir sur les débuts du train. Grâce aux peurs liées au train, nous avons produit des normes, des gares, des règlements de sécurité, des systèmes de signalisation. Autant de dispositifs socio-techniques destinés à domestiquer l’inconnu.
Ainsi, l’histoire nous enseigne qu’il ne faut pas fuir, mais structurer. Les peurs autour de l’IA ne doivent pas être balayées comme irrationnelles. Elles sont des symptômes d’un manque d’encadrement et de gouvernance dans les usages. L’IA, comme le train hier, demande à être pensée dans un cadre collectif : éthique, juridique et éducatif. Cela implique une collaboration étroite entre technologues, législateurs, éducateurs et la société civile pour s’assurer que l’IA serve un projet de civilisation viable, durable et désirable.
Comme pour le train, le progrès technologique ne se juge pas seulement à la performance, mais à sa capacité à s’intégrer dans un projet de civilisation. Le train a relié les humains et leurs cultures. L’IA fera de même sur une dimension plus cognitives et intellectuelles.
Pour aller plus loin sur ce sujet :
Tout ce que vous n’avez JAMAIS voulu savoir sur l’IA !
Les IA génératives vont bientôt disparaître !
>>> Conférence : L’intelligence collective pour atteindre l’excellence décisionnelle. Pour vous inscrire…
>>> Formation sur l’excellence décisionnelle : la clé du succès dans l’excellence opérationnelle. Pour vous inscrire…
Abonnez-vous à ce blog pour recevoir les nouvelles publications
