IA, une menace existentielle pour l’humanité ?

“D’éminents scientifiques et technologues de l’IA pointent les potentiels risques existentiels posés par ces développements – c’est-à-dire les risques qui menacent la survie de l’humanité. Nous travaillons dans le domaine de l’IA depuis des décennies et avons été surpris par cette popularité subite et ce sensationnalisme.”

Voilà ce qu’on peut lire dans un article publié sur The Conversation : https://theconversation.com/intelligence-artificielle-prendre-en-compte-ses-risques-concrets-plutot-que-de-potentielles-menaces-existentielles-208246

Derrière le discours pseudo-rationnel sur les menaces existentielles de l’IA, il y a simplement des biais cognitifs : biais d’aversion pour le risque (Terminator, c’est pour de vrai), biais de négativité (on va tous mourir), biais de statu quo (le vieux conflit des anciens et des modernes), etc. mais il y a surtout la PEUR. Quoi de plus naturel pour un humain que la peur ?

Plutôt que la peur, je pense que nous devrions favoriser l’AI.mour (tel que présenté dans cet article http://www.excellence-decisionnelle.com/2023/02/25/chatgpt/) et l’intelligence humaine augmentée par l’IA.

Si vous n’avez pas le temps de lire The Conversation, je vous propose quelques éléments importants. L’article distingue 3 types d’IA :

1 – L’IA faible (narrow AI ou weak AI en anglais), qui désigne les systèmes d’IA capables d’effectuer des tâches spécifiques ou de résoudre des problèmes particuliers. Tous les systèmes d’IA actuels sont des systèmes d’IA faible, y compris les chatbots comme ChatGPT. L’article mentionne les 10 problèmes que pose cette IA faible.
2 – L’IA forte, ou IA générale, qui fait référence aux systèmes d’IA qui présentent un niveau d’intelligence similaire à celui des humains, y compris la capacité de comprendre, d’apprendre et d’appliquer des connaissances à un large éventail de tâches et d’incorporer des concepts tels que la conscience. L’IA générale est largement hypothétique et n’a pas été réalisée à ce jour.
3 – Les super intelligences désignent les systèmes d’IA dotés d’une intelligence supérieure à l’intelligence humaine pour toutes les tâches. Par définition, nous sommes incapables de comprendre ce type d’intelligence, de la même manière qu’une fourmi n’est pas en mesure de comprendre notre intelligence. La super IA est un concept encore plus spéculatif que l’IA générale.

Les prophètes de l’Apocalypse alimentés par leurs peurs pensent donc que l’IA faible, et en particulier ChatGPT, annonce l’arrivée prochaine de la super intelligence et lui attribuent déjà l’intention de détruire l’humanité. La peur, la névrose ou les biais cognitifs peuvent conduire d’éminents scientifiques et technologues de l’IA à des raisonnements absurdes, quel que soit leur quotient intellectuel. L’humanité est le plus grand danger pour l’humanité. Tout comme une bombe nucléaire, l’IA est un outil. Le danger vient de celui qui tient l’outil et non de l’outil lui-même. Le sucre provoque des morts chaque jour et il est donc bien plus dangereux qu’un concept spéculatif de super intelligence.

Comme l’explique Philippe Vallat : “l’émergence est un phénomène qu’on trouve au niveau moléculaire (exemple classique de l’eau H2O dont les qualités ne peuvent pas être déduites des qualités de H et O) et dans les systèmes vivants, mais pas dans le monde de la matière inanimée, le monde des choses non-vivantes. Cela renvoie à la distinction entre le compliqué (le monde des machines) et le complexe (le monde du vivant). Jamais une machine n’aura de conscience, car la matière est une émergence de la conscience, et non pas l’inverse.” Une super intelligence artificielle consciente est donc probablement… improbable, voire impossible !

Source : Philosophie Magazine – Hors-série – Été 2023

En résumé :

  1. Les humains ont une conscience, mais la conscience de soi est un chemin long et difficile, voire impossible si on n’a pas envie de prendre ce chemin. Si c’est difficile dans le monde du vivant, cela va être encore plus difficile dans le monde des machines.
  2. On trouve des super intelligences artificielles dans les romans et les films comme Terminator, mais je ne pense pas que nous irons au-delà du divertissement. La PEUR, créée et entretenue par les prophètes de l’Apocalypse, va malheureusement rendre réel ce qui n’est que divertissement et fiction. Cependant, on doit admettre qu’il est plus facile d’avoir conscience d’un danger réel ou imaginaire que d’avoir conscience de soi !

Cette posture des prophètes de l’Apocalypse s’inscrit dans un mouvement plus global de Grande Régression que je décris dans cet article : Prêt pour la Grande Régression ?

Qu’en pensez-vous ?


>>> Conférence : L’intelligence collective pour atteindre l’excellence décisionnelle. Pour vous inscrire…

>>> Formation sur l’excellence décisionnelle : la clé du succès dans l’excellence opérationnelle. Pour vous inscrire…


Abonnez-vous à ce blog pour recevoir les nouvelles publications

Author: Olivier Zara

https://www.linkedin.com/in/olivierzara/

2 thoughts on “IA, une menace existentielle pour l’humanité ?”

Leave a Reply

Your email address will not be published. Required fields are marked *