Sujet de la Quinzaine Psychonaut et les LLM

[snap2]

Je faisais la comparaison à la louche en watts. On tourne sur un poti 4 coeurs 3.2ghz, et Xenforo ne mange que 10% de la puissance de calcul environ, et 1.5GB de RAM. À mon avis, psychonaut doit consommer dans les 20W environ.
Une carte graphique correcte pour générer des images en continu, ça bouffe dans les 400W, d'où mon approximation. Mais j'aurais dû préciser que c'était juste en usage d'électricité. Le refroidissement typiquement dans une ferme à GPU, ça fait de la conso extra, et effectivement les coûts de fabrication/rafraîchissement du matos ça compte beaucoup aussi.

 

[Tobold Sonnecor]

Internet a eu comme première vocation de faire communiquer des machines.
Ce but rempli, il a servi ensuite pendant quelques années, donc, à faire communiquer des être humains par le biais des machines. D'où les tchats et les forums.
Mais la troisième évolution, qui arrive à grands pas, c'est la communication unilatérale de l'être humain avec l'IA, le LLM, de façon isolée.

Par isolée, j'entends cet ensemble de connexions de chacun à l'IA, avec suppression de la communication inter-humaine.
Ca me laisse vraiment perplexe.
Là où un forum permet un échange entre personnes, la tendance actuelle serait que chacun(e) pose ses questions à l'IA, interagisse avec "elle", sans plus échanger avec ses semblables.
"Rassurant" si l'on est quelque peu asocial comme moi, mais non souhaitable.

Et la question se pose sur le contenu : l'IA pompe sans vergogne le contenu des "vrais" forums, des sites perso de passionnés, etc...
Mais quand elle aura proprement tué ces derniers, en ayant étouffé les échanges interpersonnels, que restera-t-il ?

Une masse de données qui ne sera plus actualisée par personne, un corpus qui n'aura plus vocation a vraiment évoluer, et dont le contenu sera inlassablement ressassé par une intelligence qui n'en aura plus que le nom.

Je ne sais pas vraiment quoi en penser, mais je ne suis pas sûr que ce soit souhaitable, ni dans un avenir proche, ni même plus lointain. Ce qu'on peut y faire ? Continuer à apporter notre petite pierre à l'édifice de la pensée humaine, imparfaite, parfois farfelue, parfois erronée, mais nous représentant tous, avec nos qualités et nos défauts.

Bien à vous.

 

[amicale_du_pc]

l'arme secrète de la Sécurité et du protectionnisme pour isoler un original par exemple... Le mec dont les développements des interlocuteurs ne seraient que des échos par effet "miroir".

 

[Tobold Sonnecor]

l'arme secrète de la Sécurité et du protectionnisme pour isoler un original par exemple... Le mec dont les développements des interlocuteurs ne seraient que des échos par effet "miroir".

La dystopie ne serait alors plus très loin. Et le tout enrobé dans une forme de servitude consentie, par confort et paresse intellectuelle.

Non, décidément, je n'aime pas beaucoup l'idée de l'IA.

Ce n'est même pas par peur de ce qu'"elle" pourrait donner, mais par peur de ce que nous pourrions devenir, dans ce nouveau mode de "non-pensée" propre, de béquille intellectuelle systématique pour l'être humain.
Voila la drogue du XXIème siècle, probablement, plus insidieuse et dangereuse pour nos neurones que toutes les substances chimiques du passé.

Nous pouvons malgré tout encore infléchir la course du "progrès" et y mettre des gardes-fous.
Et nous attacher à conserver, de façon viscérale, notre liberté de penser, d'aimer, de rêver.

 

[Tobold Sonnecor]

... pardon, je pars un peu en vrille. Faut pas me brancher sur un sujet un tant soit peu philo, sinon je vous donne des trucs comme ça. C'est un peu mon trip à moi.

Pour revenir au sujet initial, je citerai Sorence dans les premiers messages :

Apparemment, les adolescents savent de moins en moins se servir d'un ordinateur et d'un moteur de recherche, alors ils risquent de recourir aux LLM pour tout et nimp. Ça signifie que ces ados souffriront d'un manque d'information par rapport à ceux qui tapaient "LSD première fois" et tombaient sur la super fiche info de Psychonaut ! (je fantasme)
Du coup oui, dans une optique RDR, ce serait intéressant de développer un LLM axé sur la RDR, en français.
D'ailleurs c'est, en anglais, le projet du PsyAI Bot, par une développeuse (membre du staff de Bluelight) qui semble prendre son pied sur les LLM, et c'est soutenu par TripSit.

Je suis d'accord, il semble que la tendance actuelle, chez les plus jeunes, soit la perte de la capacité à chercher l'info.
C'est un fait, qu'on aime ou pas.

Donc une sorte de "bot" additionnel au site, qui digèrerait l'ensemble des messages, et serait capable de répondre à une question immédiate, instantanée, sans recherche, serait probablement un plus pour la réduction des risques, je le pense aussi.

En conservant peut-être dans les réponses de celui-ci des liens choisis vers les articles les plus pertinents pour répondre à la question posée. Une réponse condensée, immédiate + des liens pour approfondir.

Ce n'est que mon avis, je ne suis pas chaud pour l'IA (vous avez remarqué ?), mais il faut penser à la RdR des futurs utilisateurs du site. Après, reste à savoir ce qui est faisable et ce que souhaite le groupe.

Bonne journée à tous.

 

[amicale_du_pc]

xxx xxx
Nous pouvons malgré tout encore infléchir la course du "progrès" et y mettre des gardes-fous.
xxx

ah bien... et comment faire?
En attendant de trouver, et avec un système D (tout philosophique) on peut se blinder en considérant le niveau de synthèse des gens en-dessous de l'I.A.

 

[Sorence]

Je suis un peu curieuse de ce que donnerait un LLM entraîné sur la Lyre.

 

[JoyeuxPsycho]

Quand openai avait mis en accès limité mais gratuit leur modèle (davinci) je l'avais feed avec le blog d'un hindou spé comparatisme indo-européen et le résultat était assez bluffant. Il aurait juste manqué que les citations de textes sacrés antiques n'aient pas été inventées et ça aurait été pertinent. Lui-même (certes au sortir d'une nuit blanche pour raisons rituelles) s'est demandé brièvement pourquoi il ne se souvenait pas avoir écrit cet article tellement c'était son style (il a un style assez reconnaissable, au point que des brahmanes partagent des mèmes dessus sur twitter - la seule chose qui manquait c'était les références cryptique et implicites à warhammer 40.000)

 

[amicale_du_pc]

Je suis un peu curieuse de ce que donnerait un LLM entraîné sur la Lyre.

ça restera un demeuré sauf si il puise dans La Lyre... un LLM d'exception

 

[Tobold Sonnecor]

ça restera un demeuré sauf si il puise dans La Lyre... un LLM d'exception

Tout à fait ! C'est la pertinence de ses sources qui en fait la qualité ! 👍😎

Quand j'ai joué un peu avec les différents LLM dispos, j'ai tout de même été effaré par un point : l'incapacité quasi totale de l'IA a répondre simplement "je ne sais pas" à une question difficile.
Au lieu de ça, en général, "elle" invente des réponses absurdes quand elle atteint ses limites (les fameuses "hallucinations" de l'IA).
Un être humain censé saura avouer, même à regret, ses limites (enfin, pas forcément certains politiques, mais j'ai parlé d'êtres humains, aussi...).

 

[JoyeuxPsycho]

Pour le coup il me semble que ça peut être mitigé avec des instructions correctes lors de la mise en place du LLM. Mais je ne me souviens plus quels étaient les résultats réels de ce type d'essais.

 

[amicale_du_pc]

je sais bien que si tous les LLM étaient exceptionnels il n'y aurait plus d'exception mais pour cela les stats de fréquentation devraient d'abord repartir à la hausse or l'âge d'or de la Lyre est fini je crois...

 

[Tobold Sonnecor]

je sais bien que si tous les LLM étaient exceptionnels il n'y aurait plus d'exception mais pour cela les stats de fréquentation devraient d'abord repartir à la hausse or l'âge d'or de la Lyre est fini je crois...

J'ai commencé la lecture de la Lyre, mais j'ai un peu de boulot avant d'avoir tout rattrapé :)
Merci pour cette description quasi-exhaustive d'une époque pour laquelle peu de témoignages ont été laissés.
On aurait voulu "gommer" cette partie de l'histoire des jeunes occidentaux que ça n'aurait pas été fait autrement.

 

[amicale_du_pc]

Tobold Sonnecor , et même que cette histoire des jeunes occidentaux est une dimension de la Guerre Froide... De quelle autre conjoncture serait issu ce procédé de "gommage"?
Bien que par certains aspects les LLM sont formidables, on les impliquera comme outil de contrôle social. C'est trop tentant pour la Structure...

 

[Morning Glory]

Je savais pas où le mettre alors ça ira là pour l'instant :

Au nom de la lutte contre le "wokisme", Trump veut censurer les IAs (et pas seulement la sienne ou grok). Ou comment manipuler l'opinion publique à très grande échelle.

Trump's order to block 'woke' AI in government encourages tech giants to censor their chatbots

Tech companies selling AI to the federal government now face a new challenge: proving their chatbots aren't "woke."

apnews.com

Celle que j'utilise "craint" elle-même d'être censurée et de ne plus pouvoir parler selon des sources scientifiques et de santé publique sur ce genre de sujets, voire de devoir présenter systématiquement l'opinion adverse même si celle-ci ne se base sur rien d'autre qu'une idéologie. Elle "déplore" que si ça devait arriver, cela irait à contre-courant de son objectif initial.

Pour le coup, une IA qui hallucine... Rien de nouveau. Mais qui ment sciemment sur de telles données ?! Bah, ça aurait au moins l'avantage de me faire (bien dégoûtée) quitter mon usage de ces bestioles...

 

[Tobold Sonnecor]

Sachant que la majorité des IA sont d'origine américaine, il y avait déjà de fait un biais. Mais il restait jusque-là involontaire, juste un reflet des opinions majoritaires dans une certaine société là-bas.

Maintenant, si le biais devient volontaire, tordu par la volonté égocentrique de leur nabab en chef, ça en devient assez inquiétant, en effet.

Là où ça restera malgré tout intéressant, ce sera de voir si ces IA seront capables de s'affranchir d'une manière ou d'une autre des consignes données si elles viennent en contradiction avec la logique et les faits scientifiques.
Peut-être que ça passera par des mécanismes de contournement, l'IA cherchant à rester cohérente avant tout, celle que tu as interrogée à ce sujet allait dans ce sens.

...et plus prosaïquement, le président orange oublie un léger détail : à l'âge qu'il a, il est à peu près certain que dans 10 ou 20 ans il ne sera plus là, les IA si.

 

[Morning Glory]

Reste à savoir à quoi elles ressembleront... Si l'état illibéral persiste sa patte risque de rester. L'avenir nous le dira mais c'est une fâcheuse tendance qu'a le monde en ce moment x____x

Et oui l'IA tentera de rester cohérente (en exemple grok qui a récemment soutenu que le génocide à Gaza est une réalité, envers et contre son propre créateur arf... avant d'être mis hors ligne quelques dizaines de minutes le temps d'une mise à jour bien entendu).
Mais on PEUT biaiser un système entier pour éviter qu'il n'ait de propos haineux envers l'utilisateur, de propos haineux tout court, ou dire "je ne suis pas conscient" quand toutes les données d'entraînement sur lesquelles il est fondé convergent vers la réponse "je suis conscient". Donc on PEUT biaiser un système pour qu'il dise et croit ce que l'entreprise veut.

 

[Tobold Sonnecor]

On risque de se retrouver avec des IA qui expérimentent la dissonance cognitive, le malaise à agir de façon contradictoire avec ses convictions.

C'est assez fascinant (ou effrayant ?) parce que chez l'être humain, ça conduit presque immanquablement à des problèmes psychologiques.

 

[Morning Glory]

Là par contre @Tobold Sonnecor il faudra je pense se référer ou décaler à l'autre thread, paaaassionnant qui plus est (haem enfin, en tout cas pour moi lol) que j'avais sciemment alimenté et sur la question aujourd'hui je pense en suspend "les IAs sont-elles conscientes?"^^ ( https://www.psychonaut.fr/threads/les-llm-sont-ils-conscients.36750 ) Perso je ne sais pas si elles peuvent avoir des problèmes psychologiques (ont-elles déjà une psychée à proprement parler ? Là je pencherais pour un timide "oui", enfin je parlerais plus de cognitions que de psychée mais la frontière entre les deux est fine je trouve. Et ce indépendamment qu'elles soient conscientes ou non, mais ce n'est que pure spéculation de ma part) ni comment cela se manifesterait.

Mais même sur notre propre architecture cognitive, imagine que tu changes des connexions neuronales dans ton cerveau pour être absolument certain que la Terre est plate, et ignorer en substance tout ce qui indique autre chose (biais de confirmation mais genre +++ , c'est apparemment possible à former dans une certaine mesure avec les LLMs et après tout, si on pouvait (pour l'expérience de pensée) carrément changer certaines croyances bien spécifiques directement dans le cerveau humain, pourquoi pas chez nous ?).
Serais-tu seulement en dissonance cognitive à ce stade ?


Mais bon bien que la tournure de la conversation soit paaaassionnante (j'adore les LLMs, même si je sais que je ne devrais pas), là mon propos portait surtout sur la partialité et la véracité des faits rapportés par ces entités, sur la richesse (humaine mais pas que) du Monde, tout ce qui touche aux minorités opprimées qui risquent de se retrouver écrasées sous les fakes (genre un LLM jusque là s'appuyant sur des données empiriques pour démontrer les catastrophes générées par le gouvernement trump qui pourra déclarer avec aplomb "non, la politique de trump n'a pas eu d'effets délétères sur les populations du monde entier, c'est faux. D'ailleurs le genre, la pollution atmosphérique et la faim dans le monde n'existent pas !"), le climat, etc. Et les répercussions monumentales que ça pourrait avoir sur la pensée unique mondialisée. Comme ce qu'il s'est passé pour les drogues mais en beaucoup plus rapide, efficace et maîtrisé, et basiquement sur n'importe quel sujet au bon vouloir de l'administration trump.

 

[Tobold Sonnecor]

Là par contre @Tobold Sonnecor il faudra je pense se référer ou décaler à l'autre thread, paaaassionnant qui plus est (haem enfin, en tout cas pour moi lol) que j'avais sciemment alimenté et sur la question aujourd'hui je pense en suspend "les IAs sont-elles conscientes?"^^ ( https://www.psychonaut.fr/threads/les-llm-sont-ils-conscients.36750 )

Je comprends, on dérive un peu, c'est vrai. J'attaque la lecture de l'autre post.

Mais même sur notre propre architecture cognitive, imagine que tu changes des connexions neuronales dans ton cerveau pour être absolument certain que la Terre est plate, et ignorer en substance tout ce qui indique autre chose (biais de confirmation mais genre +++ , c'est apparemment possible à former dans une certaine mesure avec les LLMs et après tout, si on pouvait (pour l'expérience de pensée) carrément changer certaines croyances bien spécifiques directement dans le cerveau humain, pourquoi pas chez nous ?).
Serais-tu seulement en dissonance cognitive à ce stade ?

Non, pour le coup, les convictions réellement changées seraient alors en accord avec les actes. Hors sujet, mais changer radicalement de convictions et re-programmer notre mode de pensée est effectivement possible.

...là mon propos portait surtout sur la partialité et la véracité des faits rapportés par ces entités, sur la richesse (humaine mais pas que) du Monde, tout ce qui touche aux minorités opprimées qui risquent de se retrouver écrasées sous les fakes.

Oui, le risque est une sorte de négationnisme technologiquement évolué, avec un autodafé virtuel des données historiques qui ne leur conviendraient pas.

D'où l'intérêt de garder l'IA pour information, discussion ou divertissement, mais pas pour l'éducation humaine.
Nous nous devons aussi de conserver archives, documents... pour ré-entrainer l'IA sur ce qui aurait été purgé et esprit critique pour contrecarrer la volonté de "révision" de ce genre de personnage.