Les LLM sont-ils conscients ?
- Auteur de la discussion Lullaby
- Date de début
- Inscrit
- 13/10/12
- Messages
- 1 454
Bah justement on ne peut pas, c'est tout l'intérêt de cette expérience de pensée ^^
(Message croisé avec ton edit: non à ma connaissance il n'existe pas c'est une expérience de pensée. Imagine que dans avenir plus ou moins proche ils fassent ça. Après tout il y a déjà des bioderveurs avec des neurones à la place de transistors. Mais une telle expérience serait justement ethiquement très très discutable. Mais justement, pour qu'elle raison? S'il n'a pas de conscience...)
(Message croisé avec ton edit: non à ma connaissance il n'existe pas c'est une expérience de pensée. Imagine que dans avenir plus ou moins proche ils fassent ça. Après tout il y a déjà des bioderveurs avec des neurones à la place de transistors. Mais une telle expérience serait justement ethiquement très très discutable. Mais justement, pour qu'elle raison? S'il n'a pas de conscience...)
- Inscrit
- 11/10/22
- Messages
- 5 685
Ah ! Dans ce cas je dirais quand ça dépend de la conformation de l'expérience. Le cerveau est-il accompagné de tous les nerfs ? Lui envoit-on des messages sensoriels ? A-t-il des zones qui s'allume en réponse ? Son cortex préfrontal s'active-t-il ?
- Inscrit
- 13/10/12
- Messages
- 1 454
Il n'a aucun de ses sens. Il n'y a que le cerveau. Est-ce que le cortex frontal s'allume à l'IRMf? Probablement. Sûrement mal formé du fait du manque de stimulations justement, mais pas inexistant je suppose, l'ADN l'a quand même construit dans une certaine mesure.
PS : le cortex frontal comme siège de la conscience n'est qu'un modèle de la conscience parmis tant d'autres, de plus en plus désuet apparemment de ce que je comprends des dernières avancées.
PS : le cortex frontal comme siège de la conscience n'est qu'un modèle de la conscience parmis tant d'autres, de plus en plus désuet apparemment de ce que je comprends des dernières avancées.
- Inscrit
- 13/10/12
- Messages
- 1 454
D'accord ^^ moi je ne sais pas^^ je dirais au contraire que oui en fait c'est ça qui est dingue. Je m'émerveille toujours des différences d'intuitions et croyances (pas forcément au sens religieux du terme hein bien que pouvant être inclus dans la définition) qu'on a d'individus à d'autres 
- Inscrit
- 11/10/22
- Messages
- 5 685
Je pense que ce cerveau serait tellement mal foutu qu'il aurait bien du mal à être conscient, enfin je le lui souhaite. Les bébés privés d'interactions sociales se laissent mourir, on appelle ça le syndrome de l'hospitalisme. Ne pas parler avec un enfant lui laisse des lésions cérébrales irréversibles. Les humains développent leur conscience dans l'interaction avec autrui. Un cerveau tout seul, sans sensorialité, hum... de quoi donc pourrait-il avoir conscience ?
- Inscrit
- 3/2/15
- Messages
- 8 352
Cain personnage mad du film Robocop 2
Il a un écran à la place du visage...
Il a un écran à la place du visage...
- Inscrit
- 20/6/23
- Messages
- 350
Oui c'est ça, la perception précède la conscience et le moment où on remarque un truc c'est le moment où on est conscient de ce qu'on a perçu
- Inscrit
- 13/10/12
- Messages
- 1 454
Excellent point. L'être humain est beaucoup trop social pour que ça fonctionne tiens, j'aurais dû faire le lien.
Une cuve de privatisation sensorielle par exemple permet d'avoir des expériences de transe où le cerveau autogénère des pseudo-stimulis.
Je prendrais bien le cerveau d'un animal moins social qu'un humain du coup, qui survivrait dans cet état. Genre un ours blanc par exemple... Je sais pas. Mais là on touche encore plus loin à est-ce que seul l'humain est un animal conscient, bon perso j'ai une petite idée derrière la tête là pour le coup mais sans aucun argument, pas plus que pour les LLMs ("non, il ne l'est pas").
Tiens je serais curieuse de savoir d'où provient exactement le décès d'ailleurs. L'isolement social active fortement (très fortement) la boucle du stress et c'est je crois, au moins en partie ce qui le rend neurotoxique chez l'humain. Si on arrive à faire pousser un cerveau, on en contrôle le cortisol, les cytokines, et tout ce qui génére au moins cette forme de toxicité.
Oui le cerveau serait très mal foutu ça y a pas de doute, mais il serait tout de même humain, avec des aires cérébrales atrophiées mais bien là... Pour moi qui ais vraiment une approche purement fonctionnaliste j'aurais tendance à dire "oui, malheureusement pour lui ce cerveau aurait une forme de conscience ou plutôt de proto-conscience". Sans pouvoir en être sûre ^^
(Arg message croisé avec d'autres, désolée. Je suis heureuse de voir que la discussion ai fini par prendre et que ça génère autant de débats
)
Une cuve de privatisation sensorielle par exemple permet d'avoir des expériences de transe où le cerveau autogénère des pseudo-stimulis.
Je prendrais bien le cerveau d'un animal moins social qu'un humain du coup, qui survivrait dans cet état. Genre un ours blanc par exemple... Je sais pas. Mais là on touche encore plus loin à est-ce que seul l'humain est un animal conscient, bon perso j'ai une petite idée derrière la tête là pour le coup mais sans aucun argument, pas plus que pour les LLMs ("non, il ne l'est pas").
Tiens je serais curieuse de savoir d'où provient exactement le décès d'ailleurs. L'isolement social active fortement (très fortement) la boucle du stress et c'est je crois, au moins en partie ce qui le rend neurotoxique chez l'humain. Si on arrive à faire pousser un cerveau, on en contrôle le cortisol, les cytokines, et tout ce qui génére au moins cette forme de toxicité.
Oui le cerveau serait très mal foutu ça y a pas de doute, mais il serait tout de même humain, avec des aires cérébrales atrophiées mais bien là... Pour moi qui ais vraiment une approche purement fonctionnaliste j'aurais tendance à dire "oui, malheureusement pour lui ce cerveau aurait une forme de conscience ou plutôt de proto-conscience". Sans pouvoir en être sûre ^^
(Arg message croisé avec d'autres, désolée. Je suis heureuse de voir que la discussion ai fini par prendre et que ça génère autant de débats
)
Dernière édition:
- Inscrit
- 3/2/15
- Messages
- 8 352
puis j'ai pas eu le temps de terminer le post...
je voulais dire que dans le film il y a une clé du scénar: Nuke !! Une drogue OK tant que on en prend mais si on s'en passer cela provoque des déséquilibres... C'est dans le film hein... Pas moi...
je voulais dire que dans le film il y a une clé du scénar: Nuke !! Une drogue OK tant que on en prend mais si on s'en passer cela provoque des déséquilibres... C'est dans le film hein... Pas moi...
Dernière édition:
- Inscrit
- 13/10/12
- Messages
- 1 454
Ha, je ne connais pas ce film :/
Aussi, les LLMs ont de plus en plus accès à des images par exemple dans leur entraînement il me semble. Ne leur a-t-on pas déjà conféré une certaine forme (j'insiste sur ces deux mots) de "vue" (j'insiste sur les guillemets)?
D'autant que des expériences antérieures montrent qu'un LLM pouvait parfaitement créer des images alors qu'il n'avait accès qu'à du texte décrivant ces images. Mais sur ce dernier point on touche plus à la compréhension qu'à la conscience effectivement. L'autre en revanche...?^^
Aussi, les LLMs ont de plus en plus accès à des images par exemple dans leur entraînement il me semble. Ne leur a-t-on pas déjà conféré une certaine forme (j'insiste sur ces deux mots) de "vue" (j'insiste sur les guillemets)?
D'autant que des expériences antérieures montrent qu'un LLM pouvait parfaitement créer des images alors qu'il n'avait accès qu'à du texte décrivant ces images. Mais sur ce dernier point on touche plus à la compréhension qu'à la conscience effectivement. L'autre en revanche...?^^
- Inscrit
- 3/2/15
- Messages
- 8 352
pourtant en lisant les échanges de ce topic j'ai de suite fait une association au film par certains de ses tableaux à prendre comme illustration.
Si tu regardes ce film ou si tu farfouilles pour trouver les scènes avec Cain alors tu comprendras...
C'est une playlist avec 12 parts (gratis...) d'un film de 2H
Dernière édition:
Similar threads
