#AI et #enseignement, un fil de discussion et #ressources sur mastodon :
J’aimerais écrire une fiche (pour mes élèves, entre 16 et 22 ans) sur le thème « Que faut-il savoir/comprendre avant d’utiliser #ChatGPT ? »
Par ex. 10 choses listées.
J’ai pensé à « Ne pas demander ce qu’on n’est pas capable de vérifier », « Ne pas oublier qu’on transmet des informations personnelles », etc.
Avez-vous des idées de #recommandations ?
Le but serait qu’ils l’utilisent le moins possible, en partant du fait qu’ils l’utilisent déjà à fond.
▻https://mastodon.online/@Daniii@h4.io/115129995601083077
–—
Les réponses que je trouve particulièrement intéressantes :
ChatGPT est un outil d’IA qui génère du texte. Il est entraîné sur de vastes données, ce qui lui permet de rédiger, résumer et expliquer des concepts.
Cependant, il ne comprend pas ce qu’il écrit. Il peut inventer des faits (hallucinations), ses connaissances s’arrêtent à une date précise et il peut reproduire des biais présents dans ses données d’apprentissage.
Utilisez-le avec un esprit critique, vérifiez toujours les informations et ne partagez jamais de données confidentielles.
–-
Je pense que le terme « inventer » n’est pas top.
La base, c’est que tous ces #LLM sont des moteurs pour aligner les mots en calculant statistiquement celui qui correspond à la probabilité la plus forte par rapport à leur immense base d’entrainement.
Dès lors, vérité ? Hallucination ? Cette question ne me semble pas pertinente. Même si la vérité faisait partie des objectifs initiaux, comment ces moteurs pourraient-ils l’identifier alors que sur le net... La vérité n’est pas taggée...
–—
Ces moteurs ont été créés pour générer des textes plausibles... Et en ce sens, c’est une vraie réussite.
Ils n’ont pas de notion de vérité ou mensonge.
J’imagine que les boites d’ia cherchent à corriger le tir mais les fondations ne se focalisent pas sur la vérité et actuellement, de ce point de vue, les résultats sont pour le moins mitigés. GPT 5 est d’ailleurs plutôt moins bon que GPT 4.5
–—
Je recommande de ne pas utiliser chat gpt mais plutôt #Lumo qui n’espionne pas.
C’est protonmail qui a créé ce service :
►https://proton.me/blog/fr/lumo-ai
–—
Moins le sujet est connu de soi ou des textes, plus la réponse mérite d’être vérifiée
Vérifier l’IA par l’IA est une vérification risquée (ex mêmes sources)
On vérifie hors-IA les infos qu’on utilisera pour des décisions importantes (ex santé, argent)
L’IA ne peut pas connaître les infos qui n’apparaissent pas dans ses sources
–—
L’IA ne possède pas d’éthique propre, ses propositions sont à analyser humainement
L’IA produit souvent le reflet des stéréotypes de son époque
On utilise l’IA en respectant ses forces et ses faiblesses
–—
Chatgpt n’ayant aucun moyen d’action autre que le texte qu’il vous écrit, ne pas croire qu’il puisse commander, payer, crééer produire ou réaliser quoi que ce soit que sa réponse. Sa réponse peut d’ailleurs mentionner le contraire...
Ce n’est pas alexa. Cela le deviendra peut-être.
Chatgpt n’a pas d’émotions : ne pas lui en prêter.
–—
Les genia reposent sur le vol de données et le travail d’individus déjà fragilisés par nos sociétés injustes. Il est terrible énergivore (aussi en haut) et est une catastrophe à utiliser pour notre environnement.
C’est aussi une « invention » des milliardaires d’ED pour s’approprier tout et toustes et modifier profondément lesm entalités dans leur sens.
Les genia sotn des catastrophes à tout point de vue. La moindre des choses est de ne PAS les utiliser. On se débrouillait bien mieux avant elles.
–---
En recommandation s’ils l’utilisent malgré tout, il y a le fait de réinitialiser la session régulièrement (je ne sais pas comment on fait). Un des constats suite au suicide de l’ado de 14 ans qu’un #chatbot avait encouragé à se saoûler et se pendre, c’est que plus la session est longue, plus les garde-fous du chatbot s’estompent, comme s’ils étaient progressivement ensevelis sous les échanges.
« While these safeguards work best in common, short exchanges, we’ve learned over time that they can sometimes become less reliable in long interactions where parts of the model’s safety training may degrade. »
▻https://www.nbcnews.com/tech/tech-news/family-teenager-died-suicide-alleges-openais-chatgpt-blame-rcna226147
–—
A mon avis, ils ne doivent rien dire à l’IA que leur pire ennemi ne devrait pas savoir.
–---
Pour répondre à une demande, ChatGPT consomme un demi litre d’eau et l’équivalent KW d’une ampoule allumée entre 2 à 40min pour ses serveurs selon la version utilisée (la plus récente consommant plus).
–—
Commencez par demander le sens du mot « #intelligence » en rappelant que c’est le sens anglophone. Si cela ne leur dit rien, demandez leur ce que signifie l’acronyme « CIA ». À partir de celui-ci demandez leur en quoi la CIA est un organisme intelligent au sens français du terme. Autrement dit « intelligence » est un faux ami.
–—
« Le but de ChatGPT est de fournir une réponse ayant l’air correct, pas une réponse réellement correcte. Ne sachant pas dire “non”, iel inventera une réponse au lieu de dire ne pas savoir. »
–---
1) choisir si l’eau sert à faire tourner les datacenters ou alors à boire, se laver, arroser les champs...
▻https://www.developpez.net/forums/d2178025/general-developpement/algorithme-mathematiques/intelligence-artificielle/l-essor-l-ia-entraine-hausse-inquietante-consommation-d-eau-centres-donnees-europeens/#post12094400
2) j’avais vu un post mastodon où une personne disait quelque chose du genre quand on lui demande quelque chose en fait on lui demande de faire une réponse qui ressemble à la vérité, plausible
–—
« Brooks n’est pas un cas isolé. Futurism a rapporté le cas d’une femme dont le mari, après avoir passé 12 semaines à croire qu’il avait « révolutionné » les mathématiques à l’aide de ChatGPT, a failli se suicider. Plusieurs médias ont rapporté des cas similaires : des personnes sortant de sessions marathoniennes avec des chatbots convaincues d’avoir révolutionné la physique, décodé la réalité ou été choisies pour des missions cosmiques. »
▻https://intelligence-artificielle.developpez.com/actu/375327/Quand-les-chatbots-d-IA-transforment-les-illus
–—
« Dans moins de 3 ans grand max le marché se sera entièrement effondré, plus aucune société n’assurera un tel service, et vous serez alors bien embêté parce que vous serez plus capable de travailler sans. »
–—
ma question peut-elle être répondue par un moteur de recherche ou une encyclopédie en ligne ?
–—
ne laissez personne penser à votre place, encore moins une machine.
–—
tu as le classique « demander a une IA gen de faire tes devoirs c’est comme envoyer un robot a la salle de sport a sa place » ?
–—







