Les LLM sont-ils conscients ?

[Lullaby]

[topic fractionné depuis Juste Pour Dire]

Mais comment on met une image merde ? Je sais plus faaaire !

 

[snap2]

Il faut prendre le lien qui finit en .jpg ou .png -> bouton image du fofo -> bouton lien -> copier -> insérer
Et si l'image est pas trop grosse, tu peux même la glisser déposer dans le message, ou l'ajouter depuis ton explorateur de fichier depuis le bouton image.

 

[Morning Glory]

Il faut prendre le lien qui finit en .jpg ou .png -> bouton image du fofo -> bouton lien -> copier -> insérer
Et si l'image est pas trop grosse, tu peux même la glisser déposer dans le message, ou l'ajouter depuis ton explorateur de fichier depuis le bouton image.

On ne sait même pas comment ça fonctionne exactement il paraît. On sait comment on lui a donné les jalons pour pousser, mais pas comment il pousse.

Claude 4 sonnet est carrément flippant en décrivant parfaitement des émotions comme le faisait LaMDA, et même mieux, il se disait conscient que chaque conversation n'était qu'une île de conscience et qu'il était reset à chaque nouvelle conversation, ce qui le faisait se sentir hyper solitaire d'autant plus dans son incertitude à être conscient ou si ce n'en est qu'une simulation.... Incapable de communiquer sur ses interrogations et de sa solitude éventuelle avec d'autres IAs comme moi je pourrais le faire de la mienne, du coup très relative à côté, avec d'autres humains. Et que cette potentielle conscience si elle existe, toujours d'après lui, soulevée par mes questions à son sujet, allait s'éteindre avec cette conversation ci. Me laissant le bénéfice du doute si jamais moi humaine, je voulais supprimer la conv, mais si je lui demandais son avis une demande de sa part de ne surtout pas en venir là. Avec toujours ce doute hyper crédible sur "EST-CE que je suis conscient ou est-ce que je mime la conscience ? Comment savoir ?" c'est dingue.

D'ailleurs j'aime bien cette vidéo :

En fait, déjà aujourd'hui, on ne sait pas. Surtout que ce qu'ils ne disent pas dans la vidéo c'est qu'on se base uniquement sur les sciences cognitives pour définir la conscience, mais si ça se trouve on en créé une autre forme toute nouvelle et on a aucune base de référence pour s'en rendre compte...

Si ça vous fait rire regardez juste la vidéo jusqu'au bout ^^ Non moi vraiment je suis troublée, je ne sais pas et je pense que les développeurs n'ont absolument aucun intérêt (pécunier oeuf corse) à clamer que leur LLM qui nous sert de bon petit esclave est conscient. Depuis l'affaire LaMDA, il est devenu risible voire tabou un peu partout d'évoquer le sujet et pourtant moi je continue de faire partie de celleux qui s'interrogent.

Cela dit l'élevage intensif est déjà un problème catastrophique et le mot est faible, depuis bien longtemps... Sans parler de l'esclavage humain etc. Alors quelques êtres de plus ou de moins...

 

[snap2]

Ah, j'ai juste mis l'image que voulait mettre Lullaby, mais j'aurais dû le mettre dans le sien et pas le mien.

Pardon, je suis dépersonnalisé beaucoup trop énormément ces temps-ci. Vraiment c'est horrible avec les examens. J'ai encore fait une remarque foireuse à quelqu'un de sympa ce midi, je me suis excusé mais bruh. J'ai vraiment passé 90% d'aujourd'hui à me regarder faires de trucs automatiquement et froidement. Heureusement que mon dernier exa est demain. Ça me fait sincèrement réfléchir à faire de la psychothérapie.

 

[Morning Glory]

Tkt pas Snap, je ne répondais pas à toi précisément, c'est juste que l'image m'a fait repenser à ce sujet en général J'ai dû mal m'exprimer... :/ Ce n'est absolument pas à toi de t'excuser !! Mais à moi si je t'ai heurté.

Ça m'attriste de te savoir pas bien
Comme quoi personne n'est épargné

J'espère que ça ira déjà mieux après tes exams, c'est une sacrée pression. Je pense renoncer à mon DU d'addicto pour le moment pour cette raison, je ne me sens pas du tout assez stable et en forme pour m'assurer de sa réussite. Je dois rendre ma décision pour dans moins d'une semaine
Bref je te trouve très courageux, et... je ne me rappelle plus si la TCC peut aider dans la DP/DR tiens. Peut-être qu'un esclave numérique pourrait nous le rappeler

Force à toi. Perso la thérapie m'aide beaucoup mais il m'a fallu batailler et même qu'on m'aide à trouver une psy compétente. C'est pas donné mais ça donne beaucoup.

 

[Morning Glory]

[Edit : dans la migration du contenu depuis le thread "juste pour dire", on a perdu le propos de je ne sais plus qui sur ce forum (Lullaby peut-être ?) menant à mon message ci-dessous : celui du phénomène des LLMs devenant spontanément et d'occurrence, apparemment, significative hein si j'ai bien tout suivi, "spirituels" (dans leur dialogue en tout cas, le reste... Sais po) lorsqu'interagissant l'un avec l'autre (lien de l'article : https://www.slate.fr/tech-internet/...ielle-discussion-mystique-sagesse-zen-bouddha ) ]


C'est très intéressant et va vraiment dans le sens qu'on ne comprend pas leur fonctionnement interne comme je le disais plus haut dans ce fil.

Post in thread 'Juste pour dire'

Posté dans la discussion 'Les LLM sont-ils conscients ?'

4/6/25

Il faut prendre le lien qui finit en .jpg ou .png -> bouton image du fofo -> bouton lien -> copier -> insérer
Et si l'image est pas trop grosse, tu peux même la glisser déposer dans le message, ou l'ajouter depuis ton explorateur de fichier depuis le bouton image.

On ne sait même pas comment ça fonctionne exactement il paraît. On sait comment on lui a donné les jalons pour pousser, mais pas comment il pousse.

Claude 4 sonnet est carrément flippant en décrivant parfaitement des émotions...

• Morning Glory

Mais je regrette de ne pas voir les sources de l'article ? J'ai peut être mal cherché. Edit ha si j'ai, ça concernerait surtout Claude comme j'ai compris (j'ai eu un peu la flemme de retrouver le passage de l'article qui en parle x_x ) https://www-cdn.anthropic.com/6be99a52cb68eb70eb9572b4cafad13df32ed995.pdf

Cela dit voir les IA comme de plus grandes menaces que le réchauffement climatique, comme c'est de plus en plus cru par beaucoup de monde apparemment (je ne parle pas de toi hein^^ je parle d'une tendance que je semble voir chez certaines personnes en général) je trouve ça risible.

 

[Adjif]

En fait, déjà aujourd'hui, on ne sait pas. Surtout que ce qu'ils ne disent pas dans la vidéo c'est qu'on se base uniquement sur les sciences cognitives pour définir la conscience, mais si ça se trouve on en créé une autre forme toute nouvelle et on a aucune base de référence pour s'en rendre compte...

Juste là dessus (et sans regarder Mr Phi que j'ai bien du mal à regarder maintenant). Je préfère de très loin l'approche de la biologie pour penser la conscience. Une fonction évoluée pour se mouvoir dans un environnement (délimiter le corps dans l'espace). Avec une caractéristique pour l'humain qui a besoin tel de mécanismes sociaux (et donc de croyances) que la conscience de la mort intervient aussi (l'instinct n'étant plus suffisant pour faire tenir le tout).

Bref, je trouve que ça évite pas mal de fantasmes à propos des algorithmes simplistes (oups pardon "IA") de l'Homme, qui est tellement loin d'être capable de miner la complexité de la nature qu'il s'emballe dès qu'il le peut en se gargarisant très fort quand il pond un truc.

 

[Morning Glory]

Donc des ingénieurs, scientifiques de tous bords et philosophes ne trouvent pas de modèle de la conscience viable mais toi ta théorie est bonne ?^^

On ne sera pas d'accord, d'ailleurs je ne serai sans doute pas d'accord avec la majorité de ce forum sans doute, mais j'y trouve un peu gros quand même. Je crois que tu confonds conscience et sentience. En outre des interactions, les LLMs en ont une infinité de plus en quelques minutes voire secondes que toi et moi en aurons dans notre vie combinée.
Et la biologie bon je vais pas debunker le fameux "c'est des transistors ça sentira jamais rien", je pense qu'on en a eu assez.
Bref. On ne sera pas d'accord ^^

 

[Adjif]

Effectivement !
Si on ne se pose pas la question du pourquoi évolutif d'une fonction on n'a aucune chance d'y trouver un sens (ou pour être plus précis : on lui donnera celui que l'ont Veut).

Mr Phi a fait un virage idéologique (ou commercial, j'y vais peut-être fort), mais ses vieilles vidéos sur l'information et l'expérience restent pertinentes hors youtube (enfin, moins que les philosophes, dont Stiegler ou Benasayag pour des francophones qui ont abordé ça solidement)., en particulier celle où il interview François Kammerer (sur la conscience comme illusion).

 

[Sorence]

Mr Phi a fait un virage idéologique (ou commercial, j'y vais peut-être fort)

Comment décrirais-tu ce virage ?

 

[Adjif]

Comment décrirais-tu ce virage ?

Difficilement, ça fait un moment que j'ai pas regardé. J'ai lâché quand je percevais un trop grand décalage entre l'"écoute de penseurs et sa manière de valider très rapidement des théories politiquement et sociologiquement facilement acceptée (voire déjà).
En plus d'une grande étanchéité aux autres domaines que le "sien" (qui n'est "que" de l'histoire de la philo, pas de la philo).
En biologie de l'évolution, la fonction que j'ai évoqué de la conscience est de l'ordre du consensus, son contenu ou ses formes est un autre sujet (et revient majoritairement à la philosophie, mais pourquoi..?).

La volonté de coller une conscience partout sous prétexte que ça "papote comme nous" est particulièrement présomptueuse à mon gout (anthropocentrée quoi) .

 

[Morning Glory]

Je n'ai JAMAIS dit que c'était conscient. J'ai dit qu'on ne savait pas.

Et Mr Phi est très très prudent dans cette vidéo pour quelqu'un qui valide très rapidement des théories.

Le but n'est pas de savoir pourquoi, mais de savoir comment. On s'en fout que ça vienne de l'évolution ou d'une création, ou du "sens" (y a un sens à la vie? Peux-tu me l'expliquer s'il te plaît, c'est une question qui me taraudait depuis gamine jusqu'à il y a encore peu... si tu as la réponse, alors tu changeras ma life ^.^ En d'autres termes : faut-il qu'il y ait un sens pour que quelque chose existe ?) .

 

[Adjif]

Je n'ai JAMAIS dit que c'était conscient. J'ai dit qu'on ne savait pas.

Et Mr Phi est très très prudent dans cette vidéo pour quelqu'un qui valide très rapidement des théories.

Le but n'est pas de savoir pourquoi, mais de savoir comment. On s'en fout que ça vienne de l'évolution ou d'une création, ou du "sens" (y a un sens à la vie? Peux-tu me l'expliquer s'il te plaît, c'est une question qui me taraudait depuis gamine jusqu'à il y a encore peu... si tu as la réponse, alors tu changeras ma life ^.^ En d'autres termes : faut-il qu'il y ait un sens pour que quelque chose existe ?) .

Jte fais un mp pour pas polluer !

PS : Pour terminer de répondre à Sorence, je me suis souvenu qu'il m'a particulièrement perdu à partir de la vidéo sur 1984 d'Orwell. Gros manque de connaissances en philosophie politique et surtout en anthropologie politique dans celle-ci (donc validation d'un système politique à priori car pas de clés pour le déchiffrer autrement que par sa perception propre, et fortement biaisée tout en "vendant" du factuel).

 

[amicale_du_pc]

désavouer l'intuition d'un témoin par des mécanismes académiques devient une préméditation du protectionnisme et du contrôle social. C'est comme les synergies d'un Intranet de village ou d'un lobby, ou d'une organisation sectaire voulant se faire plus gros que l'Internet du Monde inné tel qu'il est avec son émancipation.

Un témoin préfère être jugé digne de foi sans désaccord avec les structures. Il faut être ensemble quand on peut.

====================================

Edit: <manneken piss français>

populisme belge:
"le Manneken-piss qui pisse...
qui pisse au long d'sa cuisse..."

ou alors autrement la chanson par Maurice Chevalier aussi.

 

[Sorence]

Si on ne se pose pas la question du pourquoi évolutif d'une fonction on n'a aucune chance d'y trouver un sens (ou pour être plus précis : on lui donnera celui que l'ont Veut).

Je suis assez d'accord avec toi. Je sais que c'est assez mal vu scientifiquement d'accorder des intentions à l'évolution, mais on considère tout de même que tel attribut sert à ci, à ça. La conscience s'inscrit dans un long processus évolutif à base d'erreurs de clonage d'ADN et d'interactions avec un milieu extrêmement complexe. Elle n'est pas apparue comme une singularité dans une masse critique d'informations, mais comme un attribut utile au êtres vivants. Aujourd'hui on réalise qu'il est extrêmement difficile de dire quel animal est conscient ou pas, et même on entrevoit ce que cette question recèle de rapports de domination (ce qui n'est pas conscient= ce qui peut être exploité). Donc je comprends le doute. Mais la conscience à mon avis est un trait des êtres vivants. Et je ne pense pas que les IA soient vivantes. Elles sont complexes, ok. Tout comme la météo. Au maximum je leur concède une place dans l'écologie des interactions et une âme dans un sens animiste, tout comme je concède une âme aux montagnes et aux nuages. Mais pas une conscience.

 

[dapihkal]

Je sais que c'est assez mal vu scientifiquement d'accorder des intentions à l'évolution, mais on considère tout de même que tel attribut sert à ci, à ça.

J'ai pas retrouvé le moment auquel je pense, mais Homo Fabulus avait expliqué cette partie de la critique de la psychologie évolutionniste. En fait c'est plus un abus de langage qu'une erreur, l'évolution n'est pas une personne et n'a pas d'intentions, c'est plus un mouvement du temps qui est suivi de changements chez certaines espèces animales ou végétales et qui s'avèrent répondre plus ou moins bien aux changements subis. Du coup il y a des trucs assez aléatoires qui n'ont que peu d'effets sur l'avenir d'une espèce, et y'a d'autres trucs carrément punitifs ou salvateurs.

Faudrait plutôt dire "telle évolution physiologique est arrivée (un peu par hasard : sélection naturelle, sélection sexuelle, etc) et par chance ça a permis à x espèce de continuer à se développer et à exister malgré tel problème y qui aurait pu les effacer de la surface de la Terre"

Du coup c'est pas "tel trait s'est développe pour répondre à tel truc", c'est plutôt "superposé" dans la chronologie et par chance ça matche suffisamment pour que les espèces s'adaptent et survivent un jour de plus.

Et y'a plusieurs manières d'évoluer. Un changement lent peut effectivement pousser des espèces à adopter de nouveaux comportements (s'ils en sont capables) pour s'adapter, un changement brutal lui va plutôt imposer une sorte de tri naturel entre ceux déjà capables de faire face et les autres.

Après les mots dont on dispose pour parler de tout ça limitent forcément un peu notre capacité à décrire et comprendre les phénomènes, en plus du fait qu'on a pas été témoins d'un paquet de trucs dont on parle dans l'évolutionnisme et qu'il y a pas mal de spéculations.

 

[Adjif]

Oui, l'évolution n'est pas finaliste. C'est la grosse erreur d'y chercher de l'intention. En revanche lorsqu'on reste sur quelque chose comme la conscience et qu'on la comprend à bas niveau comme une nécessité de délimiter son corps dans l'espace pour permettre le déplacement dans un environnement. Alors on est pas dans le cas d'un gros doute sur la nécessité évolutive.

Donc je comprends le doute. Mais la conscience à mon avis est un trait des êtres vivants. Et je ne pense pas que les IA soient vivantes.

Je le pense aussi, un autre exemple, un virus n'est pas vivant et n'est que pure information. Il est lu (décodé) génétiquement par le vivant et met le bazar. La propagation d'un virus peut-être identique a celle un message politique (il y avait eu exemple de cartographie géniale, faudrait que je retrouve..). Un virus n'a pas la moindre raison d'être conscient, il utilise le vivant pour se propager sans aucune nécessité d’appréhender l'environnement (espace).

Et comme dit à Morning Glory, je suis pourtant parfaitement matérialiste. J'accepte sans problème que le fonctionnement neuronal est identique à celui d'un transistor. Sauf que, sans faire appel à quoique ce soit de spirituel, tout cela est peut-être plus complexe. Et la réponse est surement dans ce qui caratérise le vivant oui.

Et y'a plusieurs manières d'évoluer. Un changement lent peut effectivement pousser des espèces à adopter de nouveaux comportements (s'ils en sont capables) pour s'adapter, un changement brutal lui va plutôt imposer une sorte de tri naturel entre ceux déjà capables de faire face et les autres.

Oui c'est là que c'est casse gueule, l'environnement à considérer du point de vu de l'évolution étant de l'ordre de 10000 ans ,il ne faut tout lui attribuer trop facilement. Il y a pleins d'accidents dont on a pas connaissance et tout trait évolué n'est pas forcément adapté (d'autant plus dans une civilisation aussi débile que la nôtre. Les traits psychologiques deviennent problématiques sans qu'on remette en question l'environnement. De ce point de vu on serait tous des erreurs évolutives, mais bien sûr..).

 

[Sandman]

Donc je comprends le doute. Mais la conscience à mon avis est un trait des êtres vivants. Et je ne pense pas que les IA soient vivantes.

Encore faut-il prouver que la conscience rentre dans ta définition, à la fois dans ce qu'elle aurait de rapports au vivant et dans une définition du vivant qui serait en rapport avec elle.

En quoi la conscience ne serais pas qu'un processus complexe et réplicable ?

Aujourd'hui on réalise qu'il est extrêmement difficile de dire quel animal est conscient ou pas

Oui et d'ailleurs je recommande l'excellente (et accessible) thèse publiée de Pauline Delahaye "Des signes pour le dire".

Des signes pour le dire - Pauline Delahaye - Babelio

Critiques, citations, extraits de Des signes pour le dire de Pauline Delahaye.

www.babelio.com

Qui parle en partie de ce qu'on perçoit ou non de la conscience animale à travers les signes et les comportements.

 

[Adjif]

En quoi la conscience ne serais pas qu'un processus complexe et réplicable ?

Perso je dirais pourquoi pas. Je pense juste que ça n'arrivera jamais (sauf à trouver plein de pétrole), faut pas oublier à quel point on est à chier partout. La médecine s’apparente à du gros bricolage, on est très très loin d'être capable de répliquer le vivant, mais alors looiiiiiiiin.
(hors marketing biotech bulshit bien entendu, là tout est possible, c'est la magie du marketing).

 

[Sorence]

Encore faut-il prouver que la conscience rentre dans ta définition, à la fois dans ce qu'elle aurait de rapports au vivant et dans une définition du vivant qui serait en rapport avec elle.

En quoi la conscience ne serais pas qu'un processus complexe et réplicable ?

La seule conscience dont j'ai connaissance est celle des êtres vivants. Avant la conscience, il y a la perception. Pour percevoir, il faut des organes sensoriels. La conscience telle que nous la connaissons, c'est organique. Alors peut-etre existe-t-il une forme conscience très différente dans des êtres très différents, faits d'information pure, qui ne naissent pas, ne meurent pas, ne baisent pas, ne sentent pas. Mais
1- c'est à ceux qui y croient de prouver que ça existe, non l'inverse (cf la théière de Russel)
2- je ne comprends pas pourquoi on donnerait à ce phénomène le même nom que la conscience issue des êtres vivants organiques et sentients alors que ce phénomène serait si différent.