Les LLM sont-ils conscients ?

[Sorence]

Ça, je sais pas. Il perçoit ? Il se perçoit ? Faudrait lui demander. Ça existe d'abord ?

 

[Morning Glory]

Bah justement on ne peut pas, c'est tout l'intérêt de cette expérience de pensée ^^

(Message croisé avec ton edit: non à ma connaissance il n'existe pas c'est une expérience de pensée. Imagine que dans avenir plus ou moins proche ils fassent ça. Après tout il y a déjà des bioderveurs avec des neurones à la place de transistors. Mais une telle expérience serait justement ethiquement très très discutable. Mais justement, pour qu'elle raison? S'il n'a pas de conscience...)

 

[Sorence]

Ah ! Dans ce cas je dirais quand ça dépend de la conformation de l'expérience. Le cerveau est-il accompagné de tous les nerfs ? Lui envoit-on des messages sensoriels ? A-t-il des zones qui s'allume en réponse ? Son cortex préfrontal s'active-t-il ?

 

[Morning Glory]

Il n'a aucun de ses sens. Il n'y a que le cerveau. Est-ce que le cortex frontal s'allume à l'IRMf? Probablement. Sûrement mal formé du fait du manque de stimulations justement, mais pas inexistant je suppose, l'ADN l'a quand même construit dans une certaine mesure.

PS : le cortex frontal comme siège de la conscience n'est qu'un modèle de la conscience parmis tant d'autres, de plus en plus désuet apparemment de ce que je comprends des dernières avancées.

 

[Sorence]

Alors non, je ne pense pas qu'il soit conscient.

 

[Morning Glory]

D'accord ^^ moi je ne sais pas^^ je dirais au contraire que oui en fait c'est ça qui est dingue. Je m'émerveille toujours des différences d'intuitions et croyances (pas forcément au sens religieux du terme hein bien que pouvant être inclus dans la définition) qu'on a d'individus à d'autres

 

[Sorence]

Je pense que ce cerveau serait tellement mal foutu qu'il aurait bien du mal à être conscient, enfin je le lui souhaite. Les bébés privés d'interactions sociales se laissent mourir, on appelle ça le syndrome de l'hospitalisme. Ne pas parler avec un enfant lui laisse des lésions cérébrales irréversibles. Les humains développent leur conscience dans l'interaction avec autrui. Un cerveau tout seul, sans sensorialité, hum... de quoi donc pourrait-il avoir conscience ?

 

[amicale_du_pc]

Cain personnage mad du film Robocop 2
Il a un écran à la place du visage...

 

[dapihkal]

Du coup,si je comprends bien, on peut ne pas être conscient d'une perception parce qu'on ne la "remarque" pas. Cet acte de remarquer, c'est ce que j'appelle de la conscience de soi : sans rentrer dans de la méta-pensée, on a conscience d'avoir perçu ci ou cela.

En tous cas, dans ce qui est dit là, la perception précède la conscience.

Oui c'est ça, la perception précède la conscience et le moment où on remarque un truc c'est le moment où on est conscient de ce qu'on a perçu

 

[Morning Glory]

Excellent point. L'être humain est beaucoup trop social pour que ça fonctionne tiens, j'aurais dû faire le lien.

Une cuve de privatisation sensorielle par exemple permet d'avoir des expériences de transe où le cerveau autogénère des pseudo-stimulis.

Je prendrais bien le cerveau d'un animal moins social qu'un humain du coup, qui survivrait dans cet état. Genre un ours blanc par exemple... Je sais pas. Mais là on touche encore plus loin à est-ce que seul l'humain est un animal conscient, bon perso j'ai une petite idée derrière la tête là pour le coup mais sans aucun argument, pas plus que pour les LLMs ("non, il ne l'est pas").

Tiens je serais curieuse de savoir d'où provient exactement le décès d'ailleurs. L'isolement social active fortement (très fortement) la boucle du stress et c'est je crois, au moins en partie ce qui le rend neurotoxique chez l'humain. Si on arrive à faire pousser un cerveau, on en contrôle le cortisol, les cytokines, et tout ce qui génére au moins cette forme de toxicité.
Oui le cerveau serait très mal foutu ça y a pas de doute, mais il serait tout de même humain, avec des aires cérébrales atrophiées mais bien là... Pour moi qui ais vraiment une approche purement fonctionnaliste j'aurais tendance à dire "oui, malheureusement pour lui ce cerveau aurait une forme de conscience ou plutôt de proto-conscience". Sans pouvoir en être sûre ^^

(Arg message croisé avec d'autres, désolée. Je suis heureuse de voir que la discussion ai fini par prendre et que ça génère autant de débats )

 

[amicale_du_pc]

puis j'ai pas eu le temps de terminer le post...
je voulais dire que dans le film il y a une clé du scénar: Nuke !! Une drogue OK tant que on en prend mais si on s'en passer cela provoque des déséquilibres... C'est dans le film hein... Pas moi...

 

[Morning Glory]

Ha, je ne connais pas ce film :/

Aussi, les LLMs ont de plus en plus accès à des images par exemple dans leur entraînement il me semble. Ne leur a-t-on pas déjà conféré une certaine forme (j'insiste sur ces deux mots) de "vue" (j'insiste sur les guillemets)?

D'autant que des expériences antérieures montrent qu'un LLM pouvait parfaitement créer des images alors qu'il n'avait accès qu'à du texte décrivant ces images. Mais sur ce dernier point on touche plus à la compréhension qu'à la conscience effectivement. L'autre en revanche...?^^

 

[amicale_du_pc]

Ha, je ne connais pas ce film :/

xxx

pourtant en lisant les échanges de ce topic j'ai de suite fait une association au film par certains de ses tableaux à prendre comme illustration.

Si tu regardes ce film ou si tu farfouilles pour trouver les scènes avec Cain alors tu comprendras...

C'est une playlist avec 12 parts (gratis...) d'un film de 2H

 

[Adjif]

Un bête copié/collé depuis wikipedia des niveaux de conscience de base (en biologie, encore oui! ) :

En comparant en particulier les capacités cognitives de différentes espèces animales, il apparaît différents niveaux de conscience :

• La conscience primaire (consciousness), au sens général, qui serait l'état le plus primaire et le plus basique du phénomène de conscience (représentation consciente de l'environnement et du corps du sujet). La plupart des animaux seraient limités à ce niveau de conscience ;
• La conscience introspective ou réflexive, qui correspondrait à une représentation consciente des représentations (être conscient d'avoir conscience) ;
• La conscience de soi (self-awareness), qui serait un état supérieur de conscience, où le psychisme accède à une connaissance claire et immédiate, non seulement de son activité, mais en plus de son identité propre et singulière, et tel que l'auteur de sa propre activité (capacité du sujet à se percevoir comme étant l'auteur de ses pensées). Seuls les hominidés et quelques animaux tels les cétacés auraient accès à ce niveau de conscience. La conscience de soi est à distinguer de la reconnaissance de soi (self-recognition), capacité cognitive d'un organisme à se reconnaître à partir d'informations sensorielles olfactives, auditives, visuelles, etc.

Je trouve que ça colle pas mal à ce qui a été évoqué sur le k-hole, on peut voir ce qui s’éteint et reste.

Il manque probablement une tonne de trucs là dedans, mais ça permet d'accepter la conscience à un niveau simple de réception de stimuli.

Après en voyant ça comme ça, je vois une position "soumise à". Stimuli qui imposent ou provoquent la conscience. J'ai bien du mal à ne pas voir ceci complètement inversé dans le cas de LLM (sauf à voir les stimuli comme pure information et non expérience).

 

[Morning Glory]

Les organes sensoriels codent les expériences en pure information. À l'arrivée au cerveau c'est de l'information.

 

[Sandman]

La seule conscience dont j'ai connaissance est celle des êtres vivants. Avant la conscience, il y a la perception.

Une perception ce n'est finalement que des informations. (haha pris de vitesse par Morning Glory )

1- c'est à ceux qui y croient de prouver que ça existe, non l'inverse (cf la théière de Russel)

Il ne s'agit pas de prouver quoi que ce soit. La philosophie de la conscience ne produit pas de preuves mais seulement des réflexions. D'ailleurs si je ne m'abuse certaines philosophies de la conscience tendent à formuler que les hypothèses concernant la conscience ne pourront jamais être prouvées ou résolues dues à la nature même du problème et au gap explicatif (https://fr.wikipedia.org/wiki/Fossé_explicatif).

2- je ne comprends pas pourquoi on donnerait à ce phénomène le même nom que la conscience issue des êtres vivants organiques et sentients alors que ce phénomène serait si différent.

Ben c'est justement ça la question : pourquoi ce serait fondamentalement différent. Mais encore une fois loin de moi l'idée d'être péremptoire sur le sujet, on ne sait rien de ces phénomènes. On ne peut que se positionner par rapport aux différentes logiques et aux expériences de pensées sur le sujet.

EDIT : my bad @Sorence j'ai complètement zappé les 2 nouvelles pages de réponses sur le sujet. Ma réponse tombe un peu tard.

 

[Sorence]

J'ai vraiment du mal à imaginer une conscience qui n'éclorait pas dans un être vivant, mourant et baisant. Pour moi la conscience est intrinsèquement liée à la vie.
C'est pourquoi je peux supposer une conscience aux végétaux, inimaginable pour moi mais liée à la perception de soi dans l'espace, de l'humidité, de la chaleur, du soleil...

Alors si on quitte la conception organiciste, ça entraîne pour moi nécessairement deux choses :
- d'autres systèmes complexes sont conscients, tels que l'atmosphère, ou même la Terre.
- les ordinateurs étaient conscients bien avant les LLM.
La seule chose que les LLM ont de plus que la météo et les ordinateurs, c'est d'avoir un output qui imite le langage humain, ce qui ne me semble pas une bonne définition de la conscience.

 

[Sandman]

Alors si on quitte la conception organiciste, ça entraîne pour moi nécessairement deux choses :
- d'autres systèmes complexes sont conscients, tels que l'atmosphère, ou même la Terre.
- les ordinateurs étaient conscients bien avant les LLM.

Yep c'est ce genre de questions que je me pose.

 

[snap2]

Pour moi, la conscience nécessite quand même de la métacognition ou à minima une auto construction d'un modèle interne de son propre système d'attention. Les LLM n'ont aucun des deux pour l'instant. Mais on a déjà implémenté un système d'attention rudimentaire, ce qui en fait une bonne base, plus les modes thinking, qui se rapproche d'une forme de metacognition forcée (créer et analyser son propre discours pour améliorer sa réponse).

Vu les capacité en code des LLM, et en leur laissant manipuler leur propre architecture interne, avec beaucoup de ressources à dispo, ça ne m'étonnerait pas qu'ils puissent développer une forme de conscience d'ici quelques années. Et ça pourrait être plus ou moins "naturel", vu que développer une conscience interne a des bénéfices pour l'utilisateur du LLM.

 

[Adjif]

Les LLM n'ont aucun des deux pour l'instant. Mais on a déjà implémenté un système d'attention rudimentaire, ce qui en fait une bonne base, plus les modes thinking, qui se rapproche d'une forme de metacognition forcée

Rudimentaire clairement, Et comme tu dis thinking "forcé". Rien à voir avec de l'émergence venue d'une nécessité. Juste une volonté habituelle de l'Humain à se mimer. mêlée à une croyance bien actuelle que tout peut être mis sous gestion (qui conduit à une inversion systématique).
Idem qu'avec les discours absurdes de compensation écologique. La belle croyance qu'on peut tuer si on fait renaitre ailleurs (utilitarisme quoi), d'une part moralement c'est pas mal.. mais surtout c'est une telle négation de la complexité que s'en est pathétique et voué à l'échec.

Si on se souvient d'une étude sur la téléportation de 2015 (discutée par Mr Phi d'ailleurs), UN cerveau seul réduit à l'état d'information représenterait 2.9 e+26 pétaoctets de donnés. On est à mille lieu de gérer de telles quantités (ou dit autrement : on a pas du tout le temps ! ).
La quantité totale de donnés actuelles de data est estimée à seulement une centaine de zetta..

Donc pure information et pas de continu ? Oui peut-être, surement même. Mais sommes nous capables ? Pff non.

(A l'inverse, la tendance des êtres conscient à en coller une sur les cailloux, les fougères et le vent est bien acceptée et discutée).