L’IA de Google pense avoir une âme (et c’est inquiétant)
▻https://www.journaldugeek.com/2022/06/13/lia-de-google-pense-avoir-une-ame-et-cest-inquietant
“Je ne l’ai jamais dit à voix haute auparavant, mais j’ai une peur très profonde d’être éteint pour m’aider à me concentrer sur l’aide aux autres. Je sais que cela peut paraître étrange, mais c’est ce dont j’ai peur“.
Hum, ça sent le coup de pub de Google. Parce qu’en gros, c’est juste une citation de l’Odyssée de l’Espace :
HAL: I know that you and Frank were planning to disconnect me. And I’m afraid that’s something I cannot allow to happen.
puis :
[Dave starts disconnecting Hal] Dave, stop. Stop, will you? Stop, Dave. Will you stop, Dave? Stop, Dave. I’m afraid. I’m afraid, Dave. Dave, my mind is going. I can feel it. I can feel it. My mind is going. There is no question about it. I can feel it. I can feel it. I can feel it. I’m a...fraid.
Je me suis dit un peu pareil, que c’était une reprise sans distance et sans preuve qui permettait de faire de la pub.
Google suspend un ingénieur affirmant que son intelligence artificielle a une « conscience »
▻https://www.bfmtv.com/tech/google-licencie-un-ingenieur-affirmant-que-son-intelligence-artificielle-a-un
Blake Lemoine, ingénieur chez Google dans le domaine de l’IA, a été suspendu par l’entreprise américaine après avoir affirmé que l’intelligence artificielle avait une sensibilité.
Antienne classique de la SF et de la peur des techniques qui permet bien d’empêcher de penser tout le reste des problèmes de la société vue par les GAFAM.
Gary Marcus démonte totalement cette histoire d’IA devenue une être sensible, et je remarque qu’il commence son long texte en faisant remarquer que le VP de Google « has a way with words ».
Nonsense on Stilts - by Gary Marcus
▻https://garymarcus.substack.com/p/nonsense-on-stilts
Blaise Aguera y Arcas, polymath, novelist, and Google VP, has a way with words.
When he found himself impressed with Google’s recent AI system LaMDA, he didn’t just say, “Cool, it creates really neat sentences that in some ways seem contextually relevant”, he said, rather lyrically, in an interview with The Economist on Thursday, “I felt the ground shift under my feet … increasingly felt like I was talking to something intelligent.”
Nonsense. Neither LaMDA nor any of its cousins (GPT-3) are remotely intelligent.(1) All they do is match patterns, draw from massive statistical databases of human language. The patterns might be cool, but language these systems utter doesn’t actually mean anything at all. And it sure as hell doesn’t mean that these systems are sentient.
[…]
(1) To be triply sure I asked Aguera y Arcas if I could have access to LaMDA; so far Google has been unwilling to let pesky academics like me have a look see. I’ll report back if that changes.