Les LLM sont-ils conscients ?

[Morning Glory]

C'est précisément pour ça qu'on étudie ce qu'est la conscience et de quoi et comment elle émerge ^^

Jusqu'à il y a peu on imputait la capacité de parler/communiquer à des êtres vivants. C'était d'ailleurs là dessus que se basait le test de Turing. On n'imaginait pas une machine développer un langage tel que le nôtre, même par imitation.
Alors pourquoi pas autre chose en fait?

Et je n'ai jamais demandé à ce qu'on réfute une possible conscience ou proto-conscience d'une machine, j'expliquais juste qu'à l'heure actuelle on ne savait pas, et que cela impliquait des défis éthiques... intéressants.

Quelqu'un a regardé la vidéo que j'ai postée ouuu?^^

 

[Sorence]

Jusqu'à il y a peu on imputait la capacité de parler/communiquer à des êtres vivants. C'était d'ailleurs là dessus que se basait le test de Turing. On n'imaginait pas une machine développer un langage tel que le nôtre, même par imitation.
Alors pourquoi pas autre chose en fait?

Je n'appelle pas "parler/communiquer" ce que font les LLM. Je ne trouve pas ça fondamentalement différent de ce que font déjà les algorithmes depuis belle lurette. On entre une commande, ça répond d'après une suite logique. Que cette suite soit devenue très très compliquée n'en fait pas de la communication. Ou alors les ordinateurs communiquent depuis très longtemps.

Et je n'ai jamais demandé à ce qu'on réfute une possible conscience ou proto-conscience d'une machine, j'expliquais juste qu'à l'heure actuelle on ne savait pas, et que cela impliquait des défis éthiques... intéressants.

Quelqu'un a regardé la vidéo que j'ai postée ouuu?^^

J'ai bien compris ce que tu disais ou ne disais pas, je continue la discussion en suivant ma propre idée. Et non j'ai pas regardé la vidéo.

 

[TristesPsycho]

2- je ne comprends pas pourquoi on donnerait à ce phénomène le même nom que la conscience issue des êtres vivants organiques et sentients alors que ce phénomène serait si différent.

A part parce que nommer est un acte idéologique qui blabla ?

(je la fais courte, je crois que tout le monde a compris l'idée)

 

[Morning Glory]

Je n'appelle pas "parler/communiquer" ce que font les LLM. Je ne trouve pas ça fondamentalement différent de ce que font déjà les algorithmes depuis belle lurette. On entre une commande, ça répond d'après une suite logique. Que cette suite soit devenue très très compliquée n'en fait pas de la communication. Ou alors les ordinateurs communiquent depuis très longtemps.

Bah... moi quand je communique je pense que c'est entendre quelque chose ou le lire, et y répondre suivant une suite logique dans mon cerveau. La puissance de calcul n'est pas la même je doute que ce soit comparable à l'heure actuelle mais je ne vois pas où se situe la différence fondamentale. Ma réflexion est le fruit de connexions neuronales produisant une suite logique d'un langage que j'ai appris (vaguement comme un LLM "apprend" lors de son entraînement d'ailleurs). Je te réponds actuellement selon l'input que tu me donnes et la logique que ça m'évoque, donc que ça évoque à mon cerveau. Qu'il soit fait de matière organique ou de silicium c'est pareil d'un point de vue fonctionnaliste (ce sur quoi se basent les paradigmes scientifiques actuellement en neurosciences).

 

[Sorence]

Dans ce cas, tout ce qui réagit communique, ce qui étend singulièrement le sens de "communiquer", et le vide dans le même temps. C'est effectivement le paradigme dominant à l'ère de l'information : pas de discrimination des parquets d'information en fonctions de leur contenu. C'est la cybernétique, etc etc. Les ordinateurs font ça depuis qu'ils existent. Et pas qu'eux. Une avalanche communique l'arrivée du printemps. Un éclair communique des échanges thermiques. Si tu admet que la météo pourrait être le langage d'un ciel conscient, alors je veux bien accorder une conscience aux LLM.

Mais le nœud est là : dans un autre sens, communiquer c'est exprimer. Cela signifie aussi que : un être est là, conscient, qui s'efforce de briser la barrière de l'individualité, la solitude infinie entre les êtres, en transmettant un message qui fera comprendre à un autre être ce que lui-même perçoit, ressent, pense.
J'affirme que dans ce sens-là, pas d'expression sans pensée, pas de pensée sans perception, pas de perception sans sensation. Pas de sensation sans organe sensoriel.

"Communication" a là deux sens différents. Il faut bien considérer cette différence.
Un système d'information n'est pas automatiquement un être. Ce n'est pas parce qu'il communique dans le premier sens (réagit) qu'il communique dans le second (s'exprime).

 

[Adjif]

Tout ça me donne envie d'ajouter que les LLM n'ont foutrement rien à voir avec un langage. Ils sont purement probabiliste, ils sont à peine pas capable de communiquer.
Un LLM ne traduit pas d'une langue à une autre comme nous, il ne fait que des probabilité car les algo choppent les logiques sous jacente aux différents langages Humain qu'il est possible de réduire à une probabilité qu'un mot sorte, la langue n'a aucune espèce d'importance parce qu'on vit tous dans un environnement similaire et que ça impacte notre manière de se parler.

Un LLM ne comprend absolument rien. D'ailleurs pour peu qu'on soit un peu calé sur un sujet on se rend vite compte qu'ils sortent les réponses "populaires" (sans mépris social) et parfaitement fausses. Il faut insister sérieusement pour leur faire accepter une erreur de logique qu'un élève de collège comprendrait. Bref.


De plus, la langue n'est pas la communication. Là on est dans l'idéologique pure a mélanger les deux, à tout réduire à l'état de communication on rend de "plus en plus vraie" la théorie de l'information. Sauf que le réel s'en tamponne de l'idéologie d'une société pauvre.

La communication est profondément individualiste et totalisante. Le langage, on a pas la main dessus, l'individu s'y soumet, il nous précède et nous succèdera. Le langage émerge du social, la communication est verticale quant-a elle.
On manipule avec de la com, pas avec la langue. L'un véhicule de l'efficacité pseudo pragmatique (car étriquée, normative et donc par essence médiocre) l'autre véhicule du sens et l'inscription dans le temps long (> dilution de l'individu).
(pour un truc clair là dessus, voir séminaire "agir dans la complexité" avec, entres-autres, Miguel Benasayag. Par contre où c'est quelque part dans les centaines d'heures...)

 

[Morning Glory]

Dans ce cas, tout ce qui réagit communique, ce qui étend singulièrement le sens de "communiquer", et le vide dans le même temps. C'est effectivement le paradigme dominant à l'ère de l'information : pas de discrimination des parquets d'information en fonctions de leur contenu. C'est la cybernétique, etc etc. Les ordinateurs font ça depuis qu'ils existent. Et pas qu'eux. Une avalanche communique l'arrivée du printemps. Un éclair communique des échanges thermiques. Si tu admet que la météo pourrait être le langage d'un ciel conscient, alors je veux bien accorder une conscience aux LLM.

Mais le nœud est là : dans un autre sens, communiquer c'est exprimer. Cela signifie aussi que : un être est là, conscient, qui s'efforce de briser la barrière de l'individualité, la solitude infinie entre les êtres, en transmettant un message qui fera comprendre à un autre être ce que lui-même perçoit, ressent, pense.
J'affirme que dans ce sens-là, pas d'expression sans pensée, pas de pensée sans perception, pas de perception sans sensation. Pas de sensation sans organe sensoriel.

"Communication" a là deux sens différents. Il faut bien considérer cette différence.
Un système d'information n'est pas automatiquement un être. Ce n'est pas parce qu'il communique dans le premier sens (réagit) qu'il communique dans le second (s'exprime).

C'est précisément pour ça, en tout cas ton premier paragraphe, qu'on considère les modèles de la conscience encore absolument insuffisants pour la définir.

 

[Sorence]

C'est étrange. Dans mes souvenirs de philo, la conscience c'est la perception de soi, la réflexivité. La définition est simple, bien que le phénomène soit compliqué. Bien sûr, les auteurs tartinent à propos des cas-limites et s'engueulent sur le vocabulaire, comme toujours en philo sinon on n'aurait pas l'occasion d'écrire des dissertations et plus personne ne pourrait passer son bac philo. Mais en gros, c'est ça.

 

[Morning Glory]

Tu n'es donc plus consciente toi dans la mort de l'ego?

 

[Sorence]

Je sais pas, ça m'est jamais arrivé ! Mais c'est un peu le principe non ?

 

[Morning Glory]

Bah, tant en hole, que sous 20-25mg de DMT, je n'avais plus conscience de moi, et pourtant je pouvais réfléchir (bien que différemment que d'habitude), je faisais bel et bien une expérience subjective dont j'ai d'ailleurs un souvenir cuisant pour la DMT.

 

[Sorence]

Peut-être es-tu temporairement devenu un LLM

Non sans rire, je vois les expériences à très haute dose de psychédéliques davantage comme des anomalies de fonctionnement que comme des révélation sur le fonctionnement. Si ça se trouve, pendant une ego death, on a conscience de soi mais on est trop défoncé pour s'en apercevoir. J'aime bien comment @Biquette en parlait, l'intérieur qui devient extérieur, comme si on se projetait sur les murs. Ça reste soi.

 

[Morning Glory]

Certaines fois j'avais plutôt subjectivement l'impression de l'inverse, la contemplation et les réflexions sur un monde tarabiscoté certes, mais ""extérieur"", ou alors d'autres fois ""fusionné"" à ""moi"", alors que moi bah je n'existais parfois plus (j'étais même 'morte' quelques secondes à minutes avant, mais je ne m'en rappelais même plus puisque mon existence avait été vaporisée). Le concept de "moi", mes souvenirs mon enveloppe physique mon individualité, ma naissance ma mort future... Plus rien de tout ça n'existait.
C'est subjectif. C'est une expérience. N'est-ce donc pas de la... Conscience ?

Si un cerveau naissait dans une cuve, sans cinq sens, ne provoquerait-il pas une forme de conscience malgré tout? J'étais sans doute plus proche d'un cerveau élevé dans une cuve que d'un LLM dans cet état, mais pour moi la réflexivité n'est toujours pas suffisante pour obtenir un modèle suffisamment sérieux de la conscience pour répondre "oui ou non, un LLM est ou n'est pas conscient".

 

[Sorence]

Oui oui c'était conscient, mais si tu t'en rappelles, c'est qu'il restait bien un observateur quelque-part, qui te permet de dire "je n'existais plus*... c'est là un paradoxe apparent. Moi je pense que les ego death sont de grosses hallucinations qui atteignent jusqu'à la perception de soi. Mais altérer n'est pas supprimer. Si tu peux parler de ce que ça te faisait, amha tu étais toujours consciente de toi - mais de façon très hallucinée quoi.

 

[Morning Glory]

Huuum c'est à mon retour et uniquement à mon retour que j'ai pris conscience que je n'étais pas morte, puis que ce fût comme si je n'avais jamais existé et n'existais pas. Sur le coup, le concept même d'existence... N'existait pas. Après tu as peut être raison. Moi tout ce que je peux dire c'est que je ne peux rien affirmer : je ne sais pas. Je ne suis pas plus qualifiée que des équipes pluridisciplinaires de chercheurs et chercheuses pour donner un modèle de la conscience qui trancherait et sur celle de ce que j'ai vécu en ego death, et sur ce qu'il se passe concrètement dans un LLM et encore moins ce que cela implique. Je n'ai pas la réponse, c'est aussi bête que ça^^ Mais la conversation est très intéressante par contre.

(Désolée je ne sais pas si tu as vu mon edit du message précédent du coup).

 

[dapihkal]

C'est étrange. Dans mes souvenirs de philo, la conscience c'est la perception de soi, la réflexivité. La définition est simple, bien que le phénomène soit compliqué. Bien sûr, les auteurs tartinent à propos des cas-limites et s'engueulent sur le vocabulaire, comme toujours en philo sinon on n'aurait pas l'occasion d'écrire des dissertations et plus personne ne pourrait passer son bac philo. Mais en gros, c'est ça.

Perso j'ai appris que la conscience c'est plutôt le fait de percevoir (douleur, images mentales même basiques...), alors qu'avoir conscience de soi on est déjà un pied dans la méta-cognition, d'ailleurs la réflexivité c'est une bonne dose de réflexion à propos de la réflexion qu'on a !

Du coup y'a plein d'animaux qui sont conscients, et on pourrait sans doute débattre de la conscience de plein de végétaux qui ont une forme de perception (en tout cas une interaction et des réactions par rapport à leur environnement, d’éventuels prédateurs etc), mais l'humain est le seul animal (a priori) à avoir une méta conscience et à comprendre qu'il a une conscience et qu'il peut y penser tout ça.

 

[Sorence]

Qu'est-ce qui différencie la conscience de la perception alors ?

 

[dapihkal]

Qu'est-ce qui différencie la conscience de la perception alors ?

bah en gros il me semble que la différence c'est surtout que la perception c'est le fait de recevoir les stimuli avec nos différents sens, et la conscience c'est le traitement dans notre tête de tout ça, ce qui fait qu'on peut percevoir des choses de manière inconsciente par exemple, comme la publicité, des micro expressions du visage, ce genre de choses qu'on "conscientise" pas forcément mais qu'on perçoit inconsciemment justement

 

[Sorence]

Du coup,si je comprends bien, on peut ne pas être conscient d'une perception parce qu'on ne la "remarque" pas. Cet acte de remarquer, c'est ce que j'appelle de la conscience de soi : sans rentrer dans de la méta-pensée, on a conscience d'avoir perçu ci ou cela.

En tous cas, dans ce qui est dit là, la perception précède la conscience.

 

[Morning Glory]

Donc un cerveau dans une cuve n'est pas conscient ?