Bonjour ! en naviguant sur internet, je suis tombé sur ce petit article qui explique bien la problématique actuelle des IA:
On confond trop souvent intelligence et conscience et cet article du professeur Seth Anil en présente les tenants et aboutissants de manière claire et simple.
"The Mythology Of Conscious AI: Why consciousness is more likely a property of life than of computation and why creating conscious, or even conscious-seeming AI, is a bad idea."
alias:
"Le mythe de l'IA consciente: Pourquoi la conscience est plus probablement une propriété du vivant que du calcul et pourquoi créer une IA consciente, ou même une IA qui semble consciente, est une mauvaise idée."
écrit par Anil Seth, un neuroscientifique de renom (1), lauréat du prix Berggruen pour son article "The Mythology Of Conscious AI" (2) et directeur du Centre pour la Science de la Conscience à l’Université de Sussex (1).
Il explore pourquoi l’idée que l’intelligence artificielle puisse devenir consciente est avant tout un mythe culturel et philosophique, et pourquoi cela pourrait être dangereux de s’y laisser prendre.
Dans cet essai, Seth fait une séparation entre "intelligence" et "conscience":
- l’intelligence est une capacité à faire des choses,
- la conscience est l’expérience subjective d’être un « soi ».
Les IA modernes nous impressionnent par leurs comportements intelligents, mais cela ne signifie pas qu’elles ressentent ou expérimentent quoi que ce soit.
Nos biais humains anthropocentrisme, anthropomorphisme, et l’attrait pour les récits techno-mystiques nous poussent à projeter la conscience sur des machines qui ne sont que des calculs sur du silicium.
De plus, la conscience, telle que nous la comprenons biologiquement, est ancrée dans les processus dynamiques et auto-soutenables des organismes vivants, des propriétés qui n’ont rien à voir avec les ordinateurs classiques.
En conclusion:
il n’existe aujourd’hui aucune preuve solide que les intelligences artificielles puissent être conscientes, et confondre performance algorithmique et expérience vécue n’est pas seulement scientifiquement infondé, mais potentiellement dangereux sur le plan éthique.
Plutôt que de fantasmer sur des machines sensibles, nous devrions réfléchir à ce que signifie réellement la conscience et à comment nous voulons orienter le développement de l’IA...
Et je me permet de citer la conclusion étonnante de l'article de Set Anil:
.../...
Aussi évident que cela puisse paraître, personne ne devrait chercher délibérément à créer une IA consciente, que ce soit au service d'une fascination technologique malavisée ou pour toute autre raison.Créer des machines conscientes serait un désastre éthique.
Nous introduirions dans le monde de nouveaux sujets moraux, et avec eux le potentiel de nouvelles formes de souffrance, à un rythme potentiellement exponentiel.
Et si nous accordons des droits à ces systèmes , comme nous devrions sans doute le faire s'ils sont réellement conscients, nous limiterons notre capacité à les contrôler, voire à les arrêter si nécessaire.
Même si j'ai raison de penser que les ordinateurs numériques classiques ne sont pas à la hauteur, d'autres technologies émergentes pourraient l'être, qu'il s'agisse de formes alternatives de calcul (analogique, neuromorphique, biologique, etc.) ou de méthodes en plein développement en biologie synthétique.
À mon avis, nous devrions être plus inquiets de l'émergence accidentelle de la conscience dans les organoïdes cérébraux (structures semblables au cerveau généralement cultivées à partir de cellules souches embryonnaires humaines) que de toute nouvelle vague de LLM.
Mais nos inquiétudes ne s'arrêtent pas là. Concernant l'impact de l'IA sur la société, il est essentiel de distinguer les systèmes d'IA réellement conscients de ceux qui donnent l'illusion de l'être, mais qui, en réalité, ne le sont pas.
Si l'incertitude est inévitable concernant les premiers, les systèmes à l'apparence de conscience sont bien plus proches de la réalité…
Les machines qui semblent conscientes soulèvent de graves problèmes éthiques, distincts de ceux posés par les machines réellement conscientes.
Par exemple, nous pourrions accorder à des systèmes d'IA des « droits » dont ils n'ont pas réellement besoin, puisqu'ils ne seraient pas réellement conscients, limitant ainsi notre capacité à les contrôler sans raison valable.
Plus généralement, soit nous choisissons de nous préoccuper des IA à l'apparence de conscience, ce qui modifie notre perception morale, soit nous choisissons de ne pas le faire, au risque de nous abîmer l'esprit.
Comme l'a souligné Emmanuel Kant dans ses cours d'éthique, considérer les choses qui semblent conscientes comme dépourvues de conscience est une attitude psychologiquement malsaine…
Un facteur souvent négligé est que même si nous savons, ou croyons, qu'une IA n'est pas consciente, nous pouvons être incapables de nous empêcher de ressentir qu'elle l'est.
Les illusions de conscience artificielle pourraient être aussi impénétrables à notre esprit que certaines illusions d'optique…
De plus, en l'absence de consensus sur les conditions nécessaires ou suffisantes de la conscience, il n'existe aucun test définitif permettant de déterminer si une IA est réellement consciente…
Les illusions d'une IA consciente sont dangereuses à leur manière, surtout si nous sommes constamment distraits et fascinés par l'attrait de machines véritablement sensibles…
Si nous confondons la richesse du cerveau biologique et de l'expérience humaine avec les rouages du traitement de l'information des chatbots dopés par les deepfakes, ou quelle que soit la dernière prouesse de l'IA, nous faisons un grave tort à notre esprit, à notre cerveau et à notre corps.
Si nous nous vendons trop facilement à nos créations mécaniques, nous les surestimons et nous nous sous-estimons…
L'article de M. Seth Anil: "le mythe e l'IA consciente" , lauréat du prix Berggruen est disponible en VO (anglais) ici:
https://www.noemamag.com/the-mythology-of-conscious-ai/
Source:
(1) Anil Seth (Wikipedia)
