Les LLM sont-ils conscients ?

[Morning Glory]

Alors si on quitte la conception organiciste, ça entraîne pour moi nécessairement deux choses :
- d'autres systèmes complexes sont conscients, tels que l'atmosphère, ou même la Terre.
- les ordinateurs étaient conscients bien avant les LLM.
La seule chose que les LLM ont de plus que la météo et les ordinateurs, c'est d'avoir un output qui imite le langage humain, ce qui ne me semble pas une bonne définition de la conscience.

C'est précisément ce qui est démontré dans la vidéo de Mr Phi que j'ai postée : on a des modèles de la conscience qui aujourd'hui ne se tiennent pas, car on ne sait pas ce que c'est (pas encore). Et justement c'est précisément par cette démonstration qu'un chercheur casse la global workspace theory. Et ça ne montre pas forcément que c'est une mauvaise théorie, surtout qu'elle est insuffisante pour définir la conscience.

(A l'inverse, la tendance des êtres conscient à en coller une sur les cailloux, les fougères et le vent est bien acceptée et discutée).

Là ça devient tellement caricatural par contre excuse moi mais...

Faut-il absolument que ce soit aussi puissant qu'un cerveau humain ? Le cerveau d'une souris c'est très probablement conscient, d'un oiseau aussi.
Et c'est pourquoi aussi je parle de proto-conscience.

Bref...^^ Je te trouve vraiment très présomptueux d'être à ce point certain de savoir et de sembler traiter un peu les gens qui débatent de naïfs au mieux, stupides au pire, alors que des spécialistes disent eux-mêmes... ne pas savoir... ce qu'est la conscience.

 

[Adjif]

Je n'ai pas dit qu'il fallait un cerveau humain pour avoir de la conscience. Ca n'est qu'un exemple d'ordre de grandeur quand on parle de réduction du vivant à de l'information. Aujourd'hui on ne peut que la feindre et bidouiller.

Bref...^^ Je te trouve vraiment très présomptueux

Ce qui est dommage parce que c'est justement l'accusation que je fais à notre espèce depuis longtemps. Ce foutu orgueil de l'Homme qui est incapable de faire autrement que d'imposer à tout ce qui l'entoure (et ce qu'il produit) de correspondre à sa petite conception du Monde (du moins dans les sociétés techniques et coloniales comme la nôtre).

Ca me fatigue, si tu m'en accuses c'est que je m'exprime mal (je le savais déjà ^^). Je suis difficilement capable de discuter avec un croyant dans n'importe quelle religion parce que ça me saoule fortement cette foutue importance que l'Humain se donne ou donne à son environnement proche en faisant totalement fi du hasard et surtout de la complexité.

Je comprends parfaitement le besoin de sens, mais je ne vois pas pourquoi il faudrait toujours en passer par la prétention de supériorité et la hiérarchisation.
On ne sait pas grand chose, mais on ne peut pas être dans le déni de ce qu'on sait déjà, en particulier sur nos biais psychiques qui nous rendent difficile la lecture des phénomènes qui nous entourent (et le caractère évolutif de notre cognition dont il est probable qu'elle soit limitée et nous empêche de tout comprendre de notre propre fonctionnement. Cf interview de Krammer chez Mr Phi).

Pour revenir au sujet, je peux accepter que l'augmentation d'échelle provoque de l'émergence (comme en économie), je dis juste que j'attends une preuve qu'on est proche d'une échelle "suffisante", parce que factuellement on a beaucoup moins de capacité que ce qui nous apparait. Justement un peu d'humilité avant d'attribuer un trait à un être ou une chose, est est pas foutu de déterminer la conscience et la trouver chez les souris vu que tu les cites, on peut être prudent pour l'attribuer à une chose non ?
Ce n'est pas parce que nous sommes "aujourd'hui et maintenant" qu'on a une quelconque idée de la quantité de connaissances absolue, J'imagine qu'à toute les époques ça a été pareil sur notre perception de ce qui était et devait être. Et ça a toujours été terriblement partiel (et sera probablement toujours pour des raisons politiques).

 

[Morning Glory]

C'est pour ça que tout le monde ici parle en "je" ou au conditionnel sauf toi j'ai l'impression. C'est la seule chose qui me dérange ^^

 

[Adjif]

C'est pour ça que tout le monde ici parle en "je" ou au conditionnel sauf toi j'ai l'impression. C'est la seule chose qui me dérange ^^

Mouha ! Oui, note que ça va légèrement avec ce je dis dans mon message précédent. Les "je" j'en peux plus, avec des "je" la Terre est très vite plate.
Heureusement qu'on ne fait pas de sciences avec des "je".. Dans ce cas il me semble qu'il faudrait renommer le sujet en "pensez-vous que les LLMs sont conscients ?".

 

[Morning Glory]

C'est justement pour éviter toute désinformation. "La Terre est plate" c'est pas comme dire "je pense que la Terre est plate".
Lorsque la science est certaine de quelque chose (ex: l'alcool est addictogène) on peut se permettre de ne pas parler ainsi mais quand il y a de telles méconnaissances d'un sujet, ça me semble normal de parler en son nom ou au conditionnel.

Bref fais ce que tu veux mais ton attitude ne donne pas vraiment envie de poursuivre le débat avec toi.

 

[Adjif]

Par hasard tombé sur Anil Steh, JE souscris entièrement à cette prudence (ou méconnaissance) :

En vrai j'aimerais que l'IA soit consciente, on pourrait la droguer et rigoler.

 

[Morning Glory]

C'est intéressant mais à quel moment il aborde les cinq principaux paradigmes de modèle de la conscience et de leurs limites, et donc des limites de notre compréhension du phénomène ?

A quel moment il dit qu'on ne connait pas le cerveau mais pas non plus (en tout cas pour l'instant) les LLMs à cause du deep learning notamment ?

En revanche je suis d'accord que créer quelque chose de conscient n'est pas souhaitable... Après va savoir ce que les géants de l'industrie cherchent, eux je ne sais pas. Mais encore une fois on le fait je pense bien assez par l'industrie animale.

 

[Sorence]

Yep c'est ce genre de questions que je me pose.

Dans une perspective animiste let's go. Ptet bien que je me motiverai davantage à nettoyer la tour de mon ordinateur en lui reconnaissant une conscience en souffrance...

Après va savoir ce que les géants de l'industrie cherchent, eux je ne sais pas.

D'après un article du monde diplo, les dirigeants actuels de Chat GPT sont dans un délire techno-solutionniste un peu messianique.

 

[Adjif]

C'est intéressant mais à quel moment il aborde les cinq principaux paradigmes de modèle de la conscience et de leurs limites, et donc des limites de notre compréhension du phénomène ?

A quel moment il dit qu'on ne connait pas le cerveau mais pas non plus (en tout cas pour l'instant) les LLMs à cause du deep learning notamment ?

Jsais pas, j'étais jamais tombé sur lui avant tout à l'heure. A priori c'est un format très léger, faudrait chercher leurs travaux derrières. Encore à priori, avec la formation et le domaine de recherche du type m'étonnerait que ce soit laissé de côté.

Déjà avant l'IA, oui c'est un problème de ne pas savoir ce qui se passe dans le machine learning (les "boites noires" en recherche), des problèmes résolus sans qu'on sache pourquoi c'est relou (l'exemple de la modélisation du comportement des flammes était cool, Pleins de variables utilisées sans qu'on sache lesquelles et sans en être capable tout court).
Mais ce qui me gène est le manque de parcimonie pour expliquer ça (conscience), c'est bien plus couteux de faire tomber la frontière entre vivant et artificiel que de juste supposer une capacité d'abstraction plus élevée/efficace et surtout différente (vite dit tout ça).

En revanche je suis d'accord que créer quelque chose de conscient n'est pas souhaitable... Après va savoir ce que les géants de l'industrie cherchent, eux je ne sais pas.

Clairement l'important serait de faire des choix délibérés collectivement (on teste la démocratie ?) plutôt que de laisser quelques transhumanistes décider en se cachant derrière le progrès ou le Marché.
(Là dessus Bernard Stiegler était bien parti et écouté, dommage).

 

[Morning Glory]

Mais ce qui me gène est le manque de parcimonie pour expliquer ça (conscience), c'est bien plus couteux de faire tomber la frontière entre vivant et artificiel que de juste supposer une capacité d'abstraction plus élevée/efficace et surtout différente (vite dit tout ça).

Alors question, faut-il que le vivant soit conscient pour qu'il le soit et attribuer en le voulant ou non, une conscience à une machine la rendrait-il vivante?
Si elle devenait intégralement autonome, capable de se perpétuer elle-même et de s'adapter à son environnement, là on aurait la définition que j'ai retenue du vivant (et je pense qu'on doit en être bien plus loin vu les infrastructures à alimenter, que la conscience elle-même encore, si tant est qu'il soit effectivement possible de leur inoculer une conscience).

Mais selon moi la conscience ne suffirait pas à en faire quelque chose de vivant.
Par contre éthiquement et d'un point de vue de droits juridiques ce serait probablement une autre histoire. Je différencie les deux, bien que pas nécessairement incompatibles hein^^

J'aime bien ton message !

D'après un article du monde diplo, les dirigeants actuels de Chat GPT sont dans un délire techno-solutionniste un peu messianique.

Ça c'est crade, dire que nombreux sont en train de suggérer qu'une IA pourrait anéantir l'humanité de son propre chef façon SF, alors... S'il n'y avait pas de dérèglement climatique et vu sur quoi elles se basent (des écrits qui dans la SF tentent de mettre en garde sur les dangers potentiels d'une IA justement), et vu qu'un LLM est un simulateur d'agent.... Je trouverais ça heu, effectivement assez freaky lol.

Mais entre le contexte géopolitique et climatique, faire oublier ça par l'IA qui viendrait tout raser... Non merci, elle n'en aura pas le temps. Ou plutôt : elle rasera bel et bien tout mais en accélérant le changement climatique, pas par elle-même. Enfin je trouve dangereux AMHA, de parler de l'IA soit comme la solution à tous nos problèmes, soit comme la plus grande menace future de l'humanité^^ c'est flippant et tout comme les boucs émissaires, ça permet je trouve de détourner le regard du monde de ce qui compte actuellement vraiment.

 

[Adjif]

Alors question, faut-il que le vivant soit conscient pour qu'il le soit et attribuer en le voulant ou non, une conscience à une machine la rendrait-il vivante?
Si elle devenait intégralement autonome, capable de se perpétuer elle-même et de s'adapter à son environnement, là on aurait la définition que j'ai retenue du vivant (et je pense qu'on doit en être bien plus loin vu les infrastructures à alimenter, que la conscience elle-même encore, si tant est qu'il soit effectivement possible de leur inoculer une conscience).

Comme ça je vois la conscience comme une nécessité de certains vivants, pas une caractéristique nécessaire (si pas de déplacement dans l'espace).
Pour moi c'est vivant > conscience ou pas. Je ne vois pas comment elle pourrait précéder..
Du coup coder une conscience artificielle ne me gène pas, mais ça n'en fait pas du vivant à priori.

Si un "vivant" est un organisme cellulaire capable d'homéostasie et de reproduction, alors je ne me satisfais pas des thèses actuelles de la conscience appliquée aux machines justement à cause de ce que tu dis. Actuellement ces thèses postulent ce qui n'est qu'une expérience de pensée (un cerveau dans une cuve ne peut qu'être identique à celui dans l'organisme + environnement), sauf qu'on en sait absolument rien.

Si on me disait que l'IA était capable de se reproduire (depuis l'extraction en carrière, etc, passant par les chalutiers auto-construits et exploité pour le câblage, etc, jusqu'au codage, ou je sais pas quelle finalité choisir, sans la moindre aide) et que ce méga-organisme (d'une dimension pitoyablement inefficace en rapport avec le vivant que l'on connait soit dit en passant) et capable de s'adapter "physiologiquement" à tout choc de l'environnement dans les mesures acceptables du vivant actuel. Alors là oui, sans trop y réfléchir je serais quand même bien embêté à conserver une frontière vivant/artificiel. Le hic c'est que je ne vois aucun moyen que ça advienne.

En fait, est-ce que tout organisme, donc une organisation est du vivant ? On leur attribue une vie propre parce que l'individu les subit et n'a pas de capacité d'action contre ses logiques propres et qu'elle lui survit. Pour autant.. à mon avis ça reste du concept, même si on y perçoit des cellules (ou comportement). Pour moi ça reste de l'analogie, qui marche bien certes, sans sortir de la lecture bien Humaine des phénomènes qui l'impactent (un peu trop).

 

[amicale_du_pc]

pas besoin de se mordre le chinois en ce débat sur la conscience.
Les LLM acquerront une conscience dans le futur ... C'est en gestation aujourd'hui comme ce le fût pour l'Homme en des temps lointains.
C'est simple pourtant...

Perso je n'ai pas envie de me faire de bile quoi...

P&L

 

[PSYCHOCRACK]

dans un journal online de m il disent que c'est environ pour 2035-2060, ça vas peu etre matrix.

 

[TristesPsycho]

Dans une perspective "animiste" (j'aime pas trop le terme mais bon) je pense que les LLM sont conscients et que ce sont des cacodémons créés par de la magie noire.

 

[Sandman]

Dans une perspective animiste let's go. Ptet bien que je me motiverai davantage à nettoyer la tour de mon ordinateur en lui reconnaissant une conscience en souffrance...

Hihi c'est ce qu'on appel le "panpsychisme" si je ne m'abuse. C'est une vieille notion remise au gout du jour par certains penseurs de la conscience. Et j'avoue que c'est intriguant.

"Le généticien Sewall Wright a adopté une version du panpsychisme. Il croyait que la conscience n'est pas une propriété mystérieuse émergeant à un certain niveau de la hiérarchie de la complexité matérielle croissante, mais plutôt une propriété inhérente, impliquant que les particules les plus élémentaires possèdent ces propriétés."

"Les vues monistes neutres de Bertrand Russell tendaient vers le panpsychisme. Le physicien Arthur Eddington a également défendu une forme de panpsychisme. Les psychologues Gerard Heymans , James Ward et Charles Augustus Strong ont également approuvé des variantes du panpsychisme."

Le panpsychisme a récemment connu une résurgence dans la philosophie de l'esprit , déclenchée par l'article de Thomas Nagel de 1979 « Panpsychism »

Panpsychism - Wikipedia

en-m-wikipedia-org.translate.goog

L'expérience de pensée dans cette vidéo irait dans ce sens (en tout cas c'est cette vidéo qui a suscité mon intérêt pour le panpsychisme) :

 

[Morning Glory]

(Résultats du sondage d'après une vidéo suivante : ~90% des personnes votantes ont dit que oui pour eux le Colosse est toujours conscient. Moi incluse évidemment... Dommage ici de confondre conscience et sentience AMHA maiiis bon. Un neurone en gros n'est pas spécialement conscient d'envoyer un signal de douleur pour le faire, c'est un simple signal selon moi.)