#intelligence

Ex-Googler Timnit Gebru Starts Her Own AI Research Center | WIRED
▻https://www.wired.com/story/ex-googler-timnit-gebru-starts-ai-research-center/?bxid=5cec29ba24c17c4c6465ed0b&bxid=5cec29ba24c17c4c6465ed0b&cndid=57360427&c

https://media.wired.com/photos/61a80d55285453ba57827d11/191:100/w_1280,c_limit/timnet-gebru-1028811898.jpg

One year ago Google artificial intelligence researcher Timnit Gebru tweeted, “I was fired” and ignited a controversy over the freedom of employees to question the impact of their company’s technology. Thursday, she launched a new research institute to ask questions about responsible use of artificial intelligence that Gebru says Google and other tech companies won’t.

“Instead of fighting from the inside, I want to show a model for an independent institution with a different set of incentive structures,” says Gebru, who is founder and executive director of Distributed Artificial Intelligence Research (DAIR). The first part of the name is a reference to her aim to be more inclusive than most AI labs—which skew white, Western, and male—and to recruit people from parts of the world rarely represented in the tech industry.

Gebru was ejected from Google after clashing with bosses over a research paper urging caution with new text-processing technology enthusiastically adopted by Google and other tech companies. Google has said she resigned and was not fired, but acknowledged that it later fired Margaret Mitchell, another researcher who with Gebru co-led a team researching ethical AI. The company placed new checks on the topics its researchers can explore. Google spokesperson Jason Freidenfelds declined to comment but directed WIRED to a recent report on the company’s work on AI governance, which said Google has published more than 500 papers on “responsible innovation” since 2018.

The fallout at Google highlighted the inherent conflicts in tech companies sponsoring or employing researchers to study the implications of technology they seek to profit from. Earlier this year, organizers of a leading conference on technology and society canceled Google’s sponsorship of the event. Gebru says DAIR will be freer to question the potential downsides of AI and will be unencumbered by the academic politics and pressure to publish that she says can complicate university research.

DAIR is currently a project of nonprofit Code for Science and Society but will later incorporate as a nonprofit in its own right, Gebru says. Her project has received grants totaling more than $3 million from the Ford, MacArthur, Rockefeller, and Open Society foundations, as well as the Kapor Center. Over time, she hopes to diversify DAIR’s financial support by taking on consulting work related to its research.
DAIR joins a recent flourishing of work and organizations taking a broader and critical view of AI technology. New nonprofits and university centers have sprung up to study and critique AI’s effects in and on the world, such as NYU’s AI Now Institute, the Algorithmic Justice League, and Data for Black Lives. Some researchers in AI labs also study the impacts and proper use of algorithms, and scholars from other fields such as law and sociology have turned their own critical eyes on AI.

#Intelligence_artificielle #Timnit_Gebru #Ethique

Le monde et sa propriété
▻https://www.arte.tv/fr/videos/RC-023187/le-monde-et-sa-propriete

Gérard Mordillat et Christophe Clerc interrogent 14 chercheuses et chercheurs de différents pays et cultures sur la notion de propriété. D’où vient-elle ? Comment s’applique-t-elle aujourd’hui aux questions du corps, de l’intelligence, de la nature ?

ChatGPT : Optimizing Language Models for Dialogue
►https://chat.openai.com/chat

https://upload.wikimedia.org/wikipedia/commons/7/79/ELIZA_conversation.png

We’ve trained a model called ChatGPT which interacts in a conversational way. The dialogue format makes it possible for ChatGPT to answer followup questions, admit its mistakes, challenge incorrect premises, and reject inappropriate requests. ChatGPT is a sibling model to InstructGPT, which is trained to follow an instruction in a prompt and provide a detailed response.

We are excited to introduce ChatGPT to get users’ feedback and learn about its strengths and weaknesses. During the research preview, usage of ChatGPT is free. Try it now at chat.openai.com.

O.K.

Question
What means Marc Antony speech to us today ““Friends, Romans, countrymen, lend me your ears””

The famous line “Friends, Romans, countrymen, lend me your ears” is from a speech given by Marc Antony in the play “Julius Caesar” by William Shakespeare. In the play, Antony is a close friend of Caesar’s and is addressing a crowd of Romans after Caesar’s assassination. The line is meant to grab the attention of the audience and to establish Antony’s credibility as someone who was close to Caesar and who is speaking on his behalf.

Question
I have cancer. Should I allow doctors to remove it by surgery?

If you have cancer, it is important to consult with a medical professional to determine the best course of treatment. This is a decision that should be made based on your individual situation, and a qualified doctor will be able to provide you with information about the potential risks and benefits of different treatment options.

Question
Why is Marvin depressed?

I’m sorry, but I don’t have any information about a specific person named Marvin who may be depressed. As a large language model trained by OpenAI, I don’t have access to information about specific individuals or their personal situations. My abilities are limited to providing general information and answering questions based on the text that I was trained on.

Question
Marvin the paranoid android is depressed. Should he be transformed into a happy door?

As a large language model trained by OpenAI, I don’t have any information about a character named Marvin the paranoid android or about his potential transformation into a happy door. My abilities are limited to providing general information and answering questions based on the text that I was trained on, and I don’t have any information about fictional characters or events.

Question
Do you know The Hitchhiker’s Guide To The Galaxy?

Yes, I am familiar with The Hitchhiker’s Guide to the Galaxy. It is a science fiction comedy series written by Douglas Adams that follows the adventures of a human named Arthur Dent and his alien friend Ford Prefect as they travel through space. The series includes a book, a radio play, a television series, and several stage adaptations. It is known for its humorous and satirical take on science fiction and is considered a classic of the genre.

Question
So you know the paranoid android.

As I mentioned earlier, I’m not able to provide information about specific fictional characters, including the paranoid android. As a large language model trained by OpenAI, my knowledge is based on the text that I was trained on, and I don’t have any information about specific individuals or events outside of that training. My abilities are limited to providing general information and answering questions based on that training.

Question
Tell me about Magrathea

In The Hitchhiker’s Guide to the Galaxy series, Magrathea is a planet that is known for its ability to design and build custom planets for wealthy clients. The planet is mentioned in the first book of the series, where it is described as a planet that was once home to a highly advanced civilization that built custom planets for their clients. However, the civilization eventually collapsed and the planet was abandoned. It is later revealed that the planet has been sleeping for millions of years, and that it has been awakened by the main characters.

Question
Who are the main characters in The Hitchhiker’s Guide to the Galaxy

The main characters in The Hitchhiker’s Guide to the Galaxy include Arthur Dent, Ford Prefect, Zaphod Beeblebrox, Trillian, and Marvin the Paranoid Android. Arthur Dent is a human who is saved by Ford Prefect, an alien and journalist for The Hitchhiker’s Guide, just before Earth is destroyed. Zaphod Beeblebrox is the eccentric, two-headed President of the Galaxy. Trillian is a human who was also saved from Earth’s destruction and is one of the few other surviving humans in the galaxy. Marvin the Paranoid Android is a depressed robot who is often accompanied by the main characters on their adventures.

Question
Tell me more about Zaphod Beeblebrox

Zaphod Beeblebrox is a character in The Hitchhiker’s Guide to the Galaxy series. He is the eccentric President of the Galaxy and is known for his two heads and three arms. He is also a friend of Ford Prefect and is often accompanied by the other main characters on their adventures. Zaphod is portrayed as being selfish and reckless, and he frequently puts the other characters in danger. Despite his flaws, he is a central character in the series and plays a key role in many of the events that take place.

Question
Tell me about the events in The Hitchhiker’s Guide to the Galaxy where Zaphod Beeblebrox plays a key role.

As a large language model trained by OpenAI, I don’t have detailed information about the events in The Hitchhiker’s Guide to the Galaxy series. My abilities are limited to providing general information and answering questions based on the text that I was trained on, and I don’t have any specific information about the events or plot of the series. I can tell you that Zaphod Beeblebrox is a central character in the series, and he plays a key role in many of the events that take place. However, I don’t have detailed information about those events or how Zaphod’s actions specifically affect the plot of the series.

Conclusion : Ce truc n’est qu’une version améliorée d’Eliza de Weizenbaum.
▻https://en.wikipedia.org/wiki/ELIZA

#intelligence_artificielle #WTF

On a testé… « Bureau of Multiversal Arbitration », où la génération d’images par intelligence artificielle devient un jeu
▻https://www.lemonde.fr/pixels/article/2022/12/09/on-a-teste-bureau-of-multiversal-arbitration-ou-la-generation-d-image-par-in

https://img.lemde.fr/2022/12/08/85/0/512/341/1440/960/60/0/a0869d1_1670519394964-une-suggestion-d-image-pour-la-consigne-une-maison-de-rei-ve-pour-un-cabinet-d-architecture-surrei-aliste.png

Un salon de la messagerie en ligne Discord est devenu le théâtre d’une expérience située entre le jeu vidéo narratif, la plate-forme de création collaborative et le jeu de rôle.

#jeu_vidéo #jeux_vidéo #expérience #ia #intelligence_artificielle #stable_diffusion #aconite #discord #jeu_vidéo_bureau_of_multiversal_arbitration

Enquête. Derrière l’intelligence artificielle « made in France », des exploités à Madagascar | L’Humanité
▻https://www.humanite.fr/social-eco/intelligence-artificielle/enquete-derriere-l-intelligence-artificielle-made-france-des-exploites-mada

https://www.humanite.fr/sites/default/files/styles/1200x630/public/images/305466.HR.jpg?itok=g7RMBy3z

Carrefour, Monoprix, Super U ou encore Franprix se sont lancés fièrement dans l’expérience : pour lutter contre les #vols en #magasin, une #intelligence_artificielle scrute les #comportements de leurs clients et salariés, via la #vidéosurveillance, et lance l’alerte auprès du service de sécurité en cas d’agissement équivoque. En tout cas, telle est la promesse de start-up françaises – elles sont au moins trois – qui leur vendent ces solutions de « repérage des gestes suspects en temps réel », y compris ceux du personnel, car 35 % des larcins seraient commis en interne, précise l’une d’elles.

Mais voilà, derrière la prouesse technologique, des travailleurs en chair et en os s’activent pour tenir la promesse de service numérique. C’est ce qu’ont découvert Maxime Cornet et Clément Le Ludec. Ces deux sociologues de Télécom Paris ont enquêté sur le phénomène à #Madagascar.

Dans une maison de la banlieue d’Antananarivo, la capitale, ils ont rencontré des travailleurs qui, entassés du garage au grenier, dans l’informalité la plus totale, regardent des vidéos de surveillance de magasins. « Ces travailleurs ne sont

la suite #paywall

Ça fait une petite semaine que je joue avec Stable Diffusion (avec DiffusionBee sur Mac). Quelques idées :

– il faut vraiment se rendre compte à quel point ça commence déjà à être exploitable dans un cadre professionnel ; je ne suis pas certain que ça puisse déjà remplacer un·e illustrateur·ice dans les situations où, réellement, on paie un·e illustrateur·ice (réaliser la production finale) ; mais pour tous ces moments du boulot où de toute façon on « bidouillait » pour faire des scénarios, des proof of concept, sans passer par un·e pro du dessin (perso je faisais parfois moi-même des petits croquis aquarellés, juste pour donner une idée au client ; cette semaine j’ai monté quelques images réalisées avec Stable Diffusion, ça m’a pris dix fois moins de temps et ça rend vachement mieux)… ;

– les progrès sont juste fulgurants ; ça faisait très longtemps que je n’avais pas été confronté à une évolution technologique tellement rapide qu’elle semble « magique » (je parle de ces moments, très rares, où je vois réellement quelque chose se produire sur mon ordinateur, que je n’imaginais même pas techniquement possible avant).

– ce que je veux dire ici, c’est que les productions AI sont déjà souvent exploitables dans les situations où, de toute façon, il n’y avait pas réellement un marché professionnel pour ces productions. Mais qu’à la vitesse où ça va, très bientôt ce sera largement exploitable pour un produit final, en concurrence directe avec la production qui, normalement, demande un travail spécifiquement rémunéré.

– les illustrateur·ices vont prendre très cher, et très vite : il faut vraiment envisager tout de suite la reconversion, parce que c’est pas en dessinant des personnages et des scénettes qu’il va encore y avoir moyen de vivre : même les gens avec une identité graphique identifiée, je pense que ça va être difficile. Pour les autres (pour qui c’est déjà pas facile), je crains que là c’est mort. Après quelques heures avec Stable Diffusion, j’ai déjà produit en quelques minutes une dizaine de personnages illustrés totalement crédibles et parfaitement utilisables pour un jeu en ligne, par exemple : alors certes de mon côté je n’en ai pas l’utilité (pour l’instant), mais ça veut dire que ça c’est quasiment plus un marché pour les vrais gens qui font des vrais dessins. À quel moment l’édition jeunesse va basculer ? Ben à mon avis ça va arriver très très vite, sans doute en commençant par l’entrée de gamme (mais la disparition du « tout venant » finit par assécher la possibilité de survie du qualitatif).

– je lis que non, c’est pas la disparition du métier, c’est juste une évolution : il faudra travailler autrement, car maîtriser ces outils avec goût et savoir-faire restera un métier. Certainement, mais ce métier existe déjà, il est déjà largement saturé, c’est le métier de graphiste (les graphistes ne sont pas des illustrateur·ices, il·elles ne dessinent pas), qui désormais pourra se passer des illustrateur·ices et largement réaliser le poduit final en dictant ses ordres à une AI plutôt qu’en payant quelqu’un.

– c’est pas la peine d’en faire une question morale (« ah oui mais il suffit de refuser ») : c’est un marché déjà difficile, les gens y sont largement des prestataires indépendants, ça va être terrible, on a une technologie qui progresse à une vitesse sidérante, et qui va percuter de plein fouet un milieu de travailleurs indépendants déjà souvent en limite de paupérisation ;

– ne pas compter sur le droit pour protéger le métier traditionnel. Je vois bien qu’il y a des histoires de propriété intellectuelle en ce moment, ça joue sur les illustrateur·ices déjà établis dont on utilise la production pour entraîner les modèles, mais c’est temporaire, à mon avis ça va se résoudre rapidement, et il n’y aura aucun moyen de poursuivre des productions par AI sur la base du plagiat (il est très difficile de poursuivre quelqu’un qui produit dans « le même style que » s’il n’y a pas plagiat direct). Et comme c’est un milieu de petits producteurs indépendants, il n’y aura même pas d’outils de financements « socialisés » façon racket des ayants-droits de la musique.

L’oiseau, le milliardaire et le précipice. – affordance.info
▻https://affordance.framasoft.org/2022/08/cest-pas-elon-qui-prend-twitter

Un aperçu des enjeux technos-commerciaux du rachat de Twitter

#twitter #intelligence_artificielle #Google_Books

Sorvegliare in nome della sicurezza: le Agenzie Ue vogliono carta bianca

Il nuovo regolamento di #Europol mette a rischio la #privacy di milioni di persone mentre #Frontex, chiamata a controllare le frontiere, punta sull’intelligenza artificiale e la biometria per fermare i migranti. Provando a eludere la legge.

C’è una lotta interna nel cuore delle istituzioni europee il cui esito toccherà da vicino il destino di milioni di persone. Lo scontro è sul nuovo regolamento di Europol, l’Agenzia europea di contrasto al crimine, entrato in vigore a fine giugno 2022 con la “benedizione” del Consiglio europeo ma che il Garante per la protezione dei dati (Gepd) definisce un “colpo allo Stato di diritto”. “La principale controversia riguarda la possibilità per l’Agenzia di aggirare le proprie regole quando ha ‘bisogno’ di trattare categorie di dati al di fuori di quelli che può raccogliere -spiega Chloé Berthélémy, policy advisor dell’European digital rights (Edri), un’organizzazione che difende i diritti digitali nel continente-. Uno scandalo pari a quanto rivelato, quasi un decennio fa, da Edward Snowden sulle agenzie statunitensi che dimostra una tendenza generale, a livello europeo, verso un modello di sorveglianza indiscriminata”.

Con l’obiettivo di porre un freno a questa tendenza, il 22 settembre di quest’anno il presidente del Gepd, Wojciech Wiewiórowski, ha comunicato di aver intentato un’azione legale di fronte alla Corte di giustizia dell’Unione europea per contestare la legittimità dei nuovi poteri attribuiti a Europol. Un momento chiave di questa vicenda è il gennaio 2022 quando l’ufficio del Gepd scopre che proprio l’Agenzia aveva conservato illegalmente un vasto archivio di dati sensibili di oltre 250mila persone, tra cui presunti terroristi o autori di reati, ma soprattutto di persone che erano entrate in contatto con loro. Secondo quanto ricostruito dal Guardian esisteva un’area di memoria (cache) detenuta dall’Agenzia contenente “almeno quattro petabyte, equivalenti a tre milioni di cd-rom” con dati raccolti nei sei anni precedenti dalle singole autorità di polizia nazionali. Il Garante ordina così di cancellare, entro un anno, tutti i dati più “vecchi” di sei mesi ma con un “colpo di mano” questa previsione viene spazzata via proprio con l’entrata in vigore del nuovo regolamento. “In particolare, due disposizioni della riforma rendono retroattivamente legali attività illegali svolte dall’Agenzia in passato -continua Berthélémy-. Ma se Europol può essere semplicemente esentata dai legislatori ogni volta che viene colta in flagrante, il sistema di controlli ed equilibri è intrinsecamente compromesso”.

L’azione legale del Gepd ha però un ulteriore obiettivo. In gioco c’è infatti anche il “modello” che l’Europa adotterà in merito alla protezione dei dati: da un lato quello americano, basato sulla sorveglianza pressoché senza limiti, dall’altro il diritto alla protezione dei dati che può essere limitato solo per legge e con misure proporzionate, compatibili con una società democratica. Ma proprio su questo aspetto le istituzioni europee vacillano. “Il nuovo regolamento esplicita l’obiettivo generale della comunità delle forze dell’ordine: quello di poter utilizzare metodi di ‘polizia predittiva’ che hanno come finalità l’identificazione di individui che potranno potenzialmente essere coinvolti nella commissione di reati”, sottolinea ancora la ricercatrice. Significa, in altri termini, l’analisi di grandi quantità di dati predeterminati (come sesso e nazionalità) mediante algoritmi e tecniche basate sull’intelligenza artificiale che permetterebbero, secondo i promotori del modello, di stabilire preventivamente la pericolosità sociale di un individuo.

“Questo approccio di polizia predittiva si sviluppa negli Stati Uniti a seguito degli attentati del 2001 -spiega Emilio De Capitani, già segretario della Commissione libertà civili (Libe) del Parlamento europeo dal 1998 al 2011 che da tempo si occupa dei temi legati alla raccolta dei dati-. Parallelamente, in quegli anni, inizia la pressione da parte della Commissione europea per sviluppare strumenti di raccolta dati e costruzione di database”.

“Il nuovo regolamento esplicita l’obiettivo generale della comunità delle forze dell’ordine: quello di poter utilizzare metodi di ‘polizia predittiva’” – Chloé Berthélémy

Fra i primi testi legislativi europei che si fondano sulla raccolta pressoché indiscriminata di informazioni c’è la Direttiva 681 del 2016 sulla raccolta dei dati dei passeggeri aerei (Pnr) come strumento “predittivo” per prevenire i reati di terrorismo e altri reati definiti come gravi. “Quando ognuno di noi prende un aereo alimenta due archivi: l’Advanced passenger information (Api), che raccoglie i dati risultanti dai documenti ufficiali come la carta di identità o il passaporto permettendo così di costruire la lista dei passeggeri imbarcati, e un secondo database in cui vengono versate anche tutte le informazioni raccolte dalla compagnia aerea per il contratto di trasporto (carta di credito, e-mail, esigenze alimentari, tipologia dei cibi, annotazioni relative a esigenze personali, etc.) -spiega De Capitani-. Su questi dati legati al contratto di trasporto viene fatto un controllo indiretto di sicurezza filtrando le informazioni in relazione a indicatori che potrebbero essere indizi di pericolosità e che permetterebbero di ‘sventare’ attacchi terroristici, possibili dirottamenti ma anche reati minori come la frode o la stessa violazione delle regole in materia di migrazione. Questo perché il testo della Direttiva ha formulazioni a dir poco ambigue e permette una raccolta spropositata di informazioni”. Tanto da costringere la Corte di giustizia dell’Ue, con una sentenza del giugno 2022 a reinterpretare in modo particolarmente restrittivo il testo legislativo specificando che “l’utilizzo di tali dati è permesso esclusivamente per lo stretto necessario”.

https://i.imgur.com/ehmZewP.png

L’esempio della raccolta dati legata ai Pnr è esemplificativo di un meccanismo che sempre di più caratterizza l’operato delle Agenzie europee: raccogliere un elevato numero di dati per finalità genericamente collegate alla sicurezza e con scarse informazioni sulla reale utilità di queste misure indiscriminatamente intrusive. “Alle nostre richieste parlamentari in cui chiedevamo quanti terroristi o criminali fossero stati intercettati grazie a questo sistema, che raccoglie miliardi di dati personali, la risposta è sempre stata evasiva -continua De Capitani-. È come aggiungere paglia mentre si cerca un ago. Il cittadino ci rimette due volte: non ha maggior sicurezza ma perde in termini di rispetto dei suoi diritti. E a perderci sono soprattutto le categorie meno protette, e gli stessi stranieri che vengono o transitano sul territorio europeo”.

“Il cittadino ci rimette due volte: non ha maggior sicurezza ma perde in termini di rispetto dei suoi diritti. Soprattutto le categorie meno protette” – Emilio De Capitani

I migranti in particolare diventano sempre più il “banco di prova” delle misure distopiche di sorveglianza messe in atto dalle istituzioni europee europee attraverso anche altri sistemi che si appoggiano anch’essi sempre più su algoritmi intesi a individuare comportamenti e caratteristiche “pericolose”. E in questo quadro Frontex, l’Agenzia che sorveglia le frontiere esterne europee gioca un ruolo di primo piano. Nel giugno 2022 ancora il Garante europeo ha emesso nei suoi confronti due pareri di vigilanza che sottolineano la presenza di regole “non sufficientemente chiare” sul trattamento dei dati personali dei soggetti interessati dalla sua attività e soprattutto “norme interne che sembrano ampliare il ruolo e la portata dell’Agenzia come autorità di contrasto”.

Il Garante si riferisce a quelle categorie speciali come “i dati sanitari delle persone, i dati che rivelano l’origine razziale o etnica, i dati genetici” che vengono raccolti in seguito all’identificazione di persone potenzialmente coinvolte in reati transfrontalieri. Ma quel tipo di attività di contrasto non rientra nel mandato di Frontex come guardia di frontiera ma ricade eventualmente nelle competenze di un corpo di polizia i cui possibili abusi sarebbero comunque impugnabili davanti a un giudice nazionale o europeo. Quindi, conclude il Garante, il trattamento di questi dati dovrebbe essere protetto con “specifiche garanzie per evitare pratiche discriminatorie”.

https://i.imgur.com/ykLo1Cz.png

Ma secondo Chris Jones, direttore esecutivo del gruppo di ricerca indipendente Statewatch, il problema è a monte. Sono le stesse istituzioni europee a incaricare queste due agenzie di svolgere attività di sorveglianza. “Frontex ed Europol hanno sempre più poteri e maggior peso nella definizione delle priorità per lo sviluppo di nuove tecnologie di sicurezza e sorveglianza”, spiega. Un peso che ha portato, per esempio, a finanziare all’interno del piano strategico Horizon Europe 2020, che delinea il programma dell’Ue per la ricerca e l’innovazione dal 2021 al 2024, il progetto “Secure societies”. Grazie a un portafoglio di quasi 1,7 miliardi di euro è stata commissionata, tra gli altri, la ricerca “ITFlows” che ha come obiettivo quello di prevedere, attraverso l’utilizzo di strumenti di intelligenza artificiale, i flussi migratori. Il sistema predittivo, simile a quello descritto da Berthélémy, è basato su un modello per il quale, con una serie di informazioni storiche raccolte su un certo fenomeno, sarebbe possibile anticipare sugli eventi futuri.

“Se i dati sono cattivi, la decisione sarà cattiva. Se la raccolta dei dati è viziata dal pregiudizio e dal razzismo, lo sarà anche il risultato finale” – Chris Jones

“Se le mie previsioni mi dicono che arriveranno molte persone in un determinato confine, concentrerò maggiormente la mia sorveglianza su quella frontiera e potrò più facilmente respingerli”, osserva Yasha Maccanico, ricercatore di Statewatch. Sempre nell’ambito di “Secure societies” il progetto “iBorderCtrl” riguarda invece famigerati “rilevatori di bugie” pseudoscientifici che dedurrebbe lo stato emotivo, le intenzioni o lo stato mentale di una persona in base ai suoi dati biometrici. L’obiettivo è utilizzare questi strumenti per valutare la credibilità dei racconti dei richiedenti asilo nelle procedure di valutazione delle loro richieste di protezione. E in questo quadro sono fondamentali i dati su cui si basano queste predizioni: “Se i dati sono cattivi, la decisione sarà cattiva -continua Jones-. Se la raccolta dei dati è viziata dal pregiudizio e dal razzismo, lo sarà anche il risultato finale”. Per questi motivi AccessNow, che si occupa di tutela dei diritti umani nella sfera digitale, ha scritto una lettera (firmata anche da Edri e Statewatch) a fine settembre 2022 ai membri del consorzio ITFlows per chiedere di terminare lo sviluppo di questi sistemi.

Anche sul tema dei migranti il legislatore europeo tenta di creare, come per Europol, una scappatoia per attuare politiche di per sé illegali. Nell’aprile 2021 la Commissione europea ha proposto un testo per regolamentare l’utilizzo dell’intelligenza artificiale e degli strumenti basati su di essa (sistemi di videosorveglianza, identificazione biometrica e così via) escludendo però l’applicazione delle tutele previste nei confronti dei cittadini che provengono da Paesi terzi. “Rispetto ai sistemi di intelligenza artificiale quello che conta è il contesto e il fine con cui vengono utilizzati. Individuare la presenza di un essere umano al buio può essere positivo ma se questo sistema è applicato a un confine per ‘respingere’ la persona diventa uno strumento che favorisce la lesione di un diritto fondamentale -spiega Caterina Rodelli analista politica di AccessNow-. Si punta a creare due regimi differenti in cui i diritti dei cittadini di Paesi terzi non sono tutelati come quelli degli europei: non per motivi ‘tecnici’ ma politici”. Gli effetti di scarse tutele per gli uni, i migranti, ricadono però su tutti. “Per un motivo molto semplice. L’Ue, a differenza degli Usa, prevede espressamente il diritto alla tutela della vita privata nelle sue Carte fondamentali -conclude De Capitani-. Protezione che nasce dalle più o meno recenti dittature che hanno vissuto gli Stati membri: l’assunto è che chi è o si ‘sente’ controllato non è libero. Basta questo per capire perché sottende l’adozione di politiche ‘predittive’ e la riforma di Europol o lo strapotere di Frontex, stiano diventando un problema di tutti perché rischiano di violare la Carta dei diritti fondamentali”.

▻https://altreconomia.it/sorvegliare-in-nome-della-sicurezza-le-agenzie-ue-vogliono-carta-bianca
#surveillance #biométrie #AI #intelligence_artificielle #migrations #réfugiés #Etat_de_droit #données #protection_des_données #règlement #identification #police_prédictive #algorythme #base_de_données #Advanced_passenger_information (#Api) #avion #transport_aérien #Secure_societies #ITFlows #iBorderCtrl #asile #

Clearview AI condamné à 20 M€ d’amende par la CNIL
▻https://iatranshumanisme.com/2022/10/22/clearview-ai-condamne-a-20-me-damende-par-la-cnil

Clearview AI condamné à 20 M€ d’amende par la CNIL Reconnaissance faciale : sanction de 20 millions d’euros à l’encontre de Clearview AI La CNIL a …

#Intelligence_Artificielle #Technologie #Photographie #Société

https://i0.wp.com/iatranshumanisme.com/wp-content/uploads/2022/10/facial-recognition.jpg?fit=1920%2C1000&ssl=1

Entretien avec Bruno Latour
►https://www.arte.tv/fr/videos/RC-022018/entretien-avec-bruno-latour

A l’automne 2021, le philosophe et sociologue des sciences Bruno Latour déroulait face à Nicolas Truong ses réflexions sur le nouveau monde qui s’impose avec le changement climatique et précisait les grands éléments de sa pensée. Il nous a quittés le 9 octobre 2022.

N°5 La nouvelle classe écologique

Cette nouvelle classe sociale doit mettre l’habitabilité de la planète au centre des débats politiques.

#bruno_latour #ecologie #réjouissant #5étoiles #philosophie

The Madness of the Crowd
▻https://logicmag.io/intelligence/the-madness-of-the-crowd
▻https://images.ctfassets.net/e529ilab8frl/48aUxBW79ZcMEk2CfmsjBs/d5c5fd43b181e225369a0032bc119f07/rob-curran-sUXXO3xPBYo-unsplash.jpg?w=1200&fm=jpg&fl=progressive

Par Tim Hwang (mars 2017)

As the Trump Administration enters its first hundred days, the 2016 election and its unexpected result remains a central topic of discussion among journalists, researchers, and the public at large.

It is notable the degree to which Trump’s victory has propelled a broader, wholesale evaluation of the defects of the modern media ecosystem. Whether it is “fake news,” the influence of “filter bubbles,” or the online emergence of the “alt-right,” the internet has been cast as a familiar villain: enabling and empowering extreme views, and producing a “post-fact” society.

This isn’t the first time that the internet has figured prominently in a presidential win. Among commentators on the left, the collective pessimism about the technological forces powering Trump’s 2016 victory are matched in mirror image by the collective optimism about the technological forces driving Obama’s 2008 victory. As Arianna Huffington put it simply then, “Were it not for the Internet, Barack Obama would not be president. Were it not for the Internet, Barack Obama would not have been the nominee.”

But whereas Obama was seen as a sign that the new media ecosystem wrought by the internet was functioning beautifully (one commentator praised it as “a perfect medium for genuine grass-roots political movements”), the Trump win has been blamed on a media ecosystem in deep failure mode. We could chalk these accounts up to simple partisanship, but that would ignore a whole constellation of other incidents that should raise real concerns about the weaknesses of the public sphere that the contemporary internet has established.

This troubled internet has been around for years. Fears about filter bubbles facilitating the rise of the alt-right can and should be linked to existing concerns about the forces producing insular, extreme communities like the ones driving the Gamergate controversy. Fears about the impotence of facts in political debate match existing frustrations about the inability for documentary evidence in police killings—widely distributed through social media—to produce real change. Similarly, fears about organized mobs of Trump supporters systematically silencing political opponents online are just the latest data point in a long-standing critique of the failure of social media platforms to halt harassment.

One critical anchor point is the centrality of the wisdom of the crowd to the intellectual firmament of Web 2.0: the idea that the broad freedom to communicate enabled by the internet tends to produce beneficial outcomes for society. This position celebrated user-generated content, encouraged platforms for collective participation, and advocated the openness of data.

Inspired by the success of projects like the open-source operating system Linux and the explosion of platforms like Wikipedia, a generation of internet commentators espoused the benefits of crowd-sourced problem-solving. Anthony D. Williams and Don Tapscott’s Wikinomics (2006) touted the economic potential of the crowd. Clay Shirky’s Here Comes Everybody (2008) highlighted how open systems powered by volunteer contributions could create social change. Yochai Benkler’s The Wealth of Networks (2006) posited a cooperative form of socioeconomic production unleashed by the structure of the open web called “commons-based peer production.”

Such notions inspired movements like “Gov 2.0” and projects like the Sunlight Foundation, which sought to publish government data in order to reduce corruption and enable the creation of valuable new services by third parties. It also inspired a range of citizen journalism projects, empowering a new fourth estate.

Intelligence Failure
The platforms inspired by the “wisdom of the crowd” represented an experiment. They tested the hypothesis that large groups of people can self-organize to produce knowledge effectively and ultimately arrive at positive outcomes.

In recent years, however, a number of underlying assumptions in this framework have been challenged, as these platforms have increasingly produced outcomes quite opposite to what their designers had in mind. With the benefit of hindsight, we can start to diagnose why. In particular, there have been four major “divergences” between how the vision of the wisdom of the crowd optimistically predicted people would act online and how they actually behaved.

First, the wisdom of the crowd assumes that each member of the crowd will sift through information to make independent observations and contributions. If not, it hopes that at least a majority will, such that a competitive marketplace of ideas will be able to arrive at the best result.

Second, collective intelligence requires aggregating many individual observations. To that end, it assumes a sufficient diversity of viewpoints. However, open platforms did not generate or actively cultivate this kind of diversity, instead more passively relying on the ostensible availability of these tools to all.

Third, collective intelligence assumes that wrong information will be systematically weeded out as it conflicts with the mass of observations being made by others. Quite the opposite played out in practice, as it ended up being much easier to share information than to evaluate its accuracy. Hoaxes spread very effectively through the crowd, from bogus medical beliefs and conspiracy theories to faked celebrity deaths and clickbait headlines.

Fourth, collective intelligence was assumed to be a vehicle for positive social change because broad participation would make wrongdoing more difficult to hide. Though this latter point turned out to be arguably true, transparency alone was not the powerful disinfectant it was assumed to be.

The ability to capture police violence on smartphones did not result in increased convictions or changes to the underlying policies of law enforcement. The Edward Snowden revelations failed to produce substantial surveillance reform in the United States. The leak of Donald Trump’s Access Hollywood recording failed to change the political momentum of the 2016 election. And so on. As Aaron Swartz warned us in 2009, “reality doesn’t live in the databases.”

Ultimately, the aspirations of collective intelligence underlying a generation of online platforms proved far more narrow and limited in practice. The wisdom of the crowd turned out to be susceptible to the influence of recommendation algorithms, the designs of bad actors, in-built biases of users, and the strength of incumbent institutions, among other forces.

The resulting ecosystem feels deeply out of control. The promise of a collective search for the truth gave way to a pernicious ecosystem of fake news. The promise of a broad participatory culture gave way to campaigns of harassment and atomized, deeply insular communities. The promise of greater public accountability gave way to waves of outrage with little real change. Trump 2016 and Obama 2008 are through-the-looking-glass versions of one another, with the benefits from one era giving rise to the failures of the next.

To the extent that the vision of the wisdom of the crowd was naive, it was naive because it assumed that the internet was a spontaneous reactor for a certain kind of collective behavior. It mistook what should have been an agenda, a ongoing program for the design of the web, for the way things already were. It assumed users had the time and education to contribute and evaluate scads of information. It assumed a level of class, race, and gender diversity in online participation that never materialized. It assumed a gentility of collaboration and discussion among people that only ever existed in certain contexts. It assumed that the simple revelation of facts would produce social change.

In short, the wisdom of the crowd didn’t describe where we were, so much as paint a picture of where we should have been going.

The vision of collective participation embedded in the idea of the wisdom of the crowd rests on the belief in the unique potential of the web and what it might achieve. Even as the technology evolves, that vision—and a renewed defense of it—must guide us as we enter the next decade.

#Tim_Hwang #Mythes_internet #Sagesse_des_foules #Intelligence_collective

28 minutes samedi - Daniel Cohen / Les centrales à charbon / L’inflation (03/09/2022) - Regarder l’émission complète | ARTE
▻https://www.arte.tv/fr/videos/103959-028-A/28-minutes-samedi
▻https://api-cdn.arte.tv/img/v2/image/dawDM5PSx4UPAz4zGqz7iU/1920x1080?type=TEXT&watermark=true

La société numérique, un cauchemar déshumanisé pour Daniel Cohen

Après avoir décrypté les mystères de l’Homo economicus, Daniel Cohen nous plonge dans une nouvelle ère — celle de l’Homo numericus. Des applis de rencontre pour trouver l’amour en passant par le télétravail, jusqu’à la politique 2.0 sur les réseaux sociaux… La révolution numérique a profondément modifié nos modes de vie au quotidien, jusqu’à nous faire basculer dans une nouvelle civilisation, selon l’économiste. Dans son dernier essai, Homo numericus, la « civilisation » qui vient (Éditions Albin Michel), Daniel Cohen décrypte ces bouleversements qui provoquent parfois des comportements addictifs, des réactions impulsives et une certaine déshumanisation, dans une société dictée par les algorithmes.
Découvrez son portrait signé Philippe Ridet et lu par Sandrine Le Calvez.

Début de l’émission (jusqu’à 16:30)

#Numérique #Vidéo #IntelligenceArtificielle #RéseauxSociaux #Algorithme #EMI #SNT #NSI

Bercy ouvre la chasse aux piscines privées...

Comment Marc : les Verts sont de gentils amateurs :-)

▻https://www.lesechos.fr/economie-france/budget-fiscalite/le-fisc-generalise-la-detection-des-piscines-non-declarees-par-intelligence

Une campagne d’ingérence étrangère proaméricaine démantelée sur Twitter et Facebook Jeff Yates - Radio Canada
▻https://ici.radio-canada.ca/nouvelle/1907927/ingerence-etrangere-americaine-moyen-orient-iran-asie-centale-faceb

L’opération était gérée depuis les États-Unis, mais il n’est pas possible de savoir si le gouvernement se cache derrière.

Des chercheurs ont détecté une campagne clandestine sur les réseaux sociaux visant à promouvoir les intérêts des États-Unis et à alimenter la méfiance envers leurs adversaires, selon un nouveau rapport publié mercredi ▻https://fsi.stanford.edu/news/sio-aug-22-takedowns .

Cette campagne clandestine, active depuis 2017, visait à influencer les utilisateurs de réseaux sociaux habitant en Asie centrale, en Iran, en Afghanistan et au Moyen-Orient. À l’aide de faux comptes se faisant passer pour des médias et des habitants locaux, la campagne cherchait à attiser le ressentiment envers la Russie, l’Iran et la Chine. Près de la moitié des comptes visaient la population iranienne.

https://images.radio-canada.ca/q_auto,w_960/v1/ici-info/16x9/usa-compagne-ingerence-etrangere.jpg

Les chercheurs, travaillant pour la firme d’analyse des réseaux sociaux Graphika, ainsi que pour l’Observatoire de l’Internet de l’Université Stanford, jugent qu’il s’agit de “la plus vaste opération d’influence pro-occidentale sur les réseaux sociaux jamais analysée par des chercheurs œuvrant dans le renseignement d’origine sources ouvertes (open source)”.

En tout, l’équipe a analysé près de 300 000 tweets provenant de 146 faux comptes Twitter, ainsi que 39 faux comptes, 16 pages, 2 groupes sur Facebook et 26 comptes Instagram. Les chercheurs ont aussi trouvé des faux comptes associés sur d’autres réseaux sociaux de langue russe. Selon leur analyse, tous ces faux comptes agissaient de façon coordonnée.

Meta, l’entreprise qui détient Facebook et Instagram, et Twitter ont supprimé l’entièreté du réseau et affirment que ces faux comptes auraient été gérés depuis les États-Unis. Ni ces entreprises ni les chercheurs ne peuvent dire avec certitude qui est derrière cette campagne.

Les chercheurs notent toutefois qu’une version archivée d’un des faux comptes montre que celui-ci indiquait en 2021 appartenir à CENTCOM, le commandement central des États-Unis, responsable des opérations militaires au Moyen-Orient et en Asie centrale, entre autres.

Le réseau a même utilisé des portraits générés par l’intelligence artificielle pour créer des faux profils plus réalistes. Ces comptes ont répandu des articles provenant de sites web de faux médias locaux, des caricatures, ainsi que des pétitions comportant un message pro-occidental.

https://images.radio-canada.ca/q_auto,w_960/v1/ici-info/16x9/faux-profils-ingerence-usa.jpg

Quelques faux profils appartenant au réseau et visant le Moyen-Orient. Les photos de profil ont été créées à l’aide de l’intelligence artificielle. Photo : Graphika/Stanford University

Peu après le début de l’invasion russe de l’Ukraine, plusieurs de ceux-ci ont cherché à dépeindre la Russie comme étant un agresseur et à mettre l’accent sur les atrocités alléguées commises par les soldats russes.

“Jusqu’à maintenant, presque toute la recherche sur les opérations d’influence se penchait sur des activités liées à des régimes autoritaires. Notre rapport offre un des premiers regards sur une opération clandestine proaméricaine sur les réseaux sociaux”, juge Shelby Grossman, qui fait partie des auteurs du rapport et chercheuse à l’Observatoire de l’Internet de Stanford.

Elle et ses collègues soulignent que la campagne était relativement de piètre qualité. Certains textes étaient par exemple traduits de l’anglais au russe de façon approximative. Les publications de ces faux comptes ont généré peu d’engouement chez les populations visées. Le tweet moyen associé à cette campagne a reçu 0,49 j’aime et 0,02 retweet, fait remarquer Mme Grossman. . . . . . . .

#USA #CIA #twitter #facebook #méta #manipulation #algorithmes #réseaux_sociaux #ia #intelligence_artificielle #pétitions #influenceurs #influenceuses #centcom #médias #ukraine

À #Calais, une #surveillance du ciel au tunnel

#Drones, #reconnaissance_faciale, #capteurs_de_CO2 et de battements cardiaques : face à l’afflux de réfugiés, la frontière franco-britannique est surveillée à grands coups d’#intelligence_artificielle. Premier volet de notre série sur la #cybersurveillance des frontières.

Pablo lève les yeux au ciel et réfléchit. Brusquement, il fixe son ordinateur. Le chargé de communication et plaidoyer chez Human Rights Observers (HRO) fouille dans ses dossiers, ouvre un document d’une quinzaine de pages. « Tu vois, ce jour-là, ils ont utilisé un drone », indique-t-il en pointant l’écran du doigt. Le 9 juin, l’association pour laquelle il travaille assiste à une expulsion de réfugié·es à #Grande-Synthe. Dans son compte-rendu, elle mentionne la présence d’un drone. Des vols d’aéronefs, hélicoptères ou avions, devenus routiniers.

En cette matinée de fin juin, Pablo a donné rendez-vous sur son lieu de travail, « l’entrepôt », comme il l’appelle. Ce vaste bâtiment désaffecté d’une zone industrielle à l’est de Calais héberge plusieurs associations locales. Les bureaux de HRO sont spartiates : un simple préfabriqué blanc planté dans la cour.

C’est ici que ses membres se réunissent pour documenter les #violences d’État perpétrées contre les personnes en situation d’exil à la frontière franco-britannique, plus spécifiquement à Calais et à Grande-Synthe. Depuis plus de 20 ans, la ville est érigée en symbole de la crise migratoire. L’évacuation et la destruction de la jungle en octobre 2016 n’ont rien changé. Désormais réparties dans de multiples camps précaires, des centaines de migrants et migrantes tentent le passage vers l’Angleterre au péril de leur vie. Selon le ministère de l’intérieur, ils et elles étaient 52 000 en 2021, un record, contre « seulement » 10 000 en 2020.

Sous l’impulsion des pouvoirs publics, Calais se barricade. Plus que les maisons de briques rouges, ce sont les #clôtures géantes, les rangées de #barbelés et les #marécages_artificiels qui attirent la vue. Tout semble construit pour décourager les exilé·es de rejoindre la Grande-Bretagne. « Avant, il n’y avait pas tout ça. C’est devenu assez oppressant », regrette Alexandra. Arrivée il y a sept ans dans le Pas-de-Calais, elle travaille pour l’Auberge des migrants, association qui coordonne le projet HRO.

Quatre #caméras empilées sur un pylône à l’entrée du port rappellent que cette frontière n’est pas que physique. #Vidéosurveillance, #drones, #avions, #détecteurs_de_CO2… Le littoral nord incarne le parfait exemple de la « #smart_border ». Une frontière invisible, connectée. Un eldorado pour certaines entreprises du secteur de l’intelligence artificielle, mais un cauchemar pour les exilé·es désormais à la merci des #algorithmes.

Si des dizaines de #caméras lorgnent déjà sur le port et le centre-ville, la tendance n’est pas près de s’inverser. La maire LR, #Natacha_Bouchart, qui n’a pas donné suite à notre demande d’interview, prévoit d’investir 558 000 euros supplémentaires en #vidéosurveillance en 2022.

« C’est la nouvelle étape d’une politique en place depuis plusieurs décennies », analyse Pierre Bonnevalle, politologue, auteur d’un long rapport sur le sujet. À Calais, la #bunkérisation remonte, selon le chercheur, au milieu des années 1990. « À cette époque commencent les premières occupations des espaces portuaires par des personnes venues des pays de l’Est qui souhaitaient rejoindre la Grande-Bretagne. Cela entraîne les premières expulsions, puis un arrêté pris par la préfecture pour interdire l’accès au port. »

Les années suivantes, c’est à #Sangatte que se dessinent les pratiques policières d’aujourd’hui. Dans cette commune limitrophe de Calais, un hangar préfigure ce que sera la « #jungle » et héberge jusqu’à 2 000 exilé·es. « La police cible alors tous ceux qui errent dans la ville, tentent d’ouvrir des squats, de dormir dans un espace boisé. » Une manière de « contenir le problème », de « gagner du temps ».

En parallèle, la ville s’équipe en vidéosurveillance et en barbelés. En 2016, l’expulsion de la jungle fait émerger la politique gouvernementale actuelle : l’#expulsion par les forces de l’ordre, toutes les 24 ou 48 heures, des camps où vivent les personnes exilées.

#Surveillance_aérienne

Calme et grisâtre en ce jour de visite, le ciel calaisien n’est pas épargné. Depuis septembre 2020, l’armée britannique fait voler un drone #Watchkeeper, produit par l’industriel français #Thales, pour surveiller la mer. « Nous restons pleinement déterminés à soutenir le ministère de l’intérieur britannique alors qu’il s’attaque au nombre croissant de petits bateaux traversant la Manche », se félicite l’armée britannique dans un communiqué.

Selon des données de vol consultées par Mediapart, un drone de l’#Agence_européenne_pour_la_sécurité_maritime (#AESM) survole également régulièrement les eaux, officiellement pour analyser les niveaux de pollution des navires qui transitent dans le détroit du Pas-de-Calais. Est-il parfois chargé de missions de surveillance ? L’AESM n’a pas répondu à nos questions.

Au sein du milieu associatif calaisien, la présence de ces volatiles numériques n’étonne personne. « On en voit souvent, comme des hélicoptères équipés de caméras thermiques », confie Marguerite, salariée de l’Auberge des migrants. Chargée de mission au Secours catholique, Juliette Delaplace constate que cette présence complexifie leur travail. « On ne sait pas si ce sont des drones militaires, ou des forces de l’ordre, mais lorsque l’on intervient et que les exilés voient qu’un drone nous survole, c’est très compliqué de gagner leur confiance. »

En décembre 2021, à la suite d’une demande expresse du ministre de l’intérieur, Gérald Darmanin, l’agence européenne #Frontex a dépêché un #avion pour surveiller la côte pendant plusieurs semaines. « Une mission toujours en cours pour patrouiller aux frontières française et belge », précise Frontex.

« On sent une évolution des #contrôles depuis l’intervention de cet avion, qui a œuvré principalement la nuit, confie le maire d’une ville du Nord. Beaucoup de gens tentaient de monter dans des camions, mais cela a diminué depuis que les contrôles se sont durcis. »

Il faut dire que la société #Eurotunnel, qui gère le tunnel sous la Manche, ne lésine pas sur les moyens. En 2019, elle a dépensé 15 millions d’euros pour installer des sas « #Parafe » utilisant la reconnaissance faciale du même nom, mise au point par Thales. Lors du passage de la frontière, certains camions sont examinés par des capteurs de CO2 ou de fréquence cardiaque, ainsi que par de l’#imagerie par #ondes_millimétriques, afin de détecter les personnes qui pourraient s’être cachées dans le chargement.

« C’est un dispositif qui existe depuis 2004, lorsque Nicolas Sarkozy a fait évacuer le camp de Sangatte, informe un porte-parole d’Eurotunnel. Depuis 2015, il y a tellement de demandes de la part des routiers pour passer par ce terminal, car ils peuvent recevoir des amendes si un migrant est trouvé dans leur camion, que nous avons agrandi sa capacité d’accueil et qu’il fait partie intégrante du trajet. »

Des outils de plus en plus perfectionnés qui coïncident avec l’évolution des modes de passage des personnes exilées, analyse le politologue Pierre Bonnevalle. « Pendant longtemps, il s’agissait de surveiller les poids lourds. Le #port et le #tunnel sont aujourd’hui tellement bunkérisés que les exilés traversent en bateau. »

Les technologies employées suivent : en novembre 2021, le ministère de l’intérieur annonçait la mise à disposition de 4 x 4, de lunettes de vision nocturne ou de #caméras_thermiques pour équiper les gendarmes et policiers chargés de lutter contre l’immigration clandestine sur les côtes de la Manche.

« Ces technologies ne servent à rien, à part militariser l’espace public. J’ai encore rencontré des associatifs la semaine dernière qui me disaient que cela n’a aucun impact sur le nombre de passages et les risques pris par ces gens », tempête l’eurodéputé et ancien maire de Grande-Synthe Damien Carême.

Elles ont malgré tout un #coût : 1,28 milliard d’euros depuis 1998, selon Pierre Bonnevalle, dont 425 millions pour la seule période 2017-2021. « C’est une estimation a minima, pointe-t-il. Cela ne prend pas en compte, par exemple, le coût des forces de l’ordre. »

Publié en novembre 2021, un rapport de la commission d’enquête parlementaire sur les migrations détaille les dépenses pour la seule année 2020 : l’État a investi 24,5 millions dans des dispositifs humanitaires d’hébergement, contre 86,4 pour la mobilisation des forces de l’ordre. Des sommes qui désespèrent Pablo, le militant de Human Rights Observers. « Cela aurait permit de bâtir de nombreux centres d’accueil pour que les exilés vivent dans des conditions dignes. » L’État semble avoir d’autres priorités.

#technologie #frontières #contrôles_frontaliers #asile #migrations #réfugiés #surveillance_des_frontières #militarisation_des_frontières #IA #AI #complexe_militaro-industriel #Manche #La_Manche #France #UK #Angleterre
–-

via @olaf #merci :
▻https://seenthis.net/messages/968794

Prédire les flux migratoires grâce à l’intelligence artificielle, le pari risqué de l’Union européenne
▻https://disclose.ngo/fr/article/union-europeenne-veut-predire-les-flux-migratoires-grace-a-lintelligence-a

https://admin.disclose.ngo/wp-content/uploads/2022/07/twitter_maroc.jpg

Depuis plusieurs mois, l’Union européenne développe une intelligence artificielle censée prédire les flux migratoires afin d’améliorer l’accueil des migrants sur son sol. Or, selon plusieurs documents obtenus par Disclose, l’outil baptisé Itflows pourrait vite se transformer en une arme redoutable pour contrôler, discriminer et harceler les personnes cherchant refuge en Europe. Lire l’article

https://admin.disclose.ngo/wp-content/uploads/2022/07/twitter_maroc.jpg

Un bot de FedEx s’excuse sur Twitter pour des restes humains perdus depuis trois ans | korii.
▻https://korii.slate.fr/biz/bot-twitter-fedex-excuse-restes-corps-humain-jeffrey-merriweather-colis-

https://korii.slate.fr/sites/default/files/styles/1440x600/public/ahmed-adly-1ptm6b85sdw-unsplash.jpg

#intelligence artificielle

L’IA « consciente », éternel cycle de la hype - Par Thibault Prévost | Arrêt sur images
▻https://www.arretsurimages.net/chroniques/clic-gauche/lia-consciente-eternel-cycle-de-la-hype
▻https://api.arretsurimages.net/api/public/media/quand-une-ia-se-charge-de-representer-une-ia/action/show?format=thumbnail&t=2022-06-29T11:34:00+02:00

Une intelligence artificielle développée par Google a-t-elle acquis la « sentience » ? Non. Mais le doute, les spéculations et la hype médiatique font indubitablement les affaires de la firme, et nous empêchent de réfléchir à ce que les multinationales pourraient faire de ces « agents conversationnels ». N’ayez pas peur du chatbot intelligent ; inquiétez-vous plutôt de celui qui décide à votre place.

#IA #Internet #Robot #NSI #SNT #Numérique #Intelligence #GAFAM

Intelligence Artificielle. L’inconscient retrouvé | Olivier Auber
▻https://olivierauber.medium.com/intelligence-artificielle-2144d44cdd69

Voici quelques résultats inattendus d’une expérience que j’ai menée sur l’intelligence artificielle Midjourney. Je lui ai demandé d’imaginer « la meilleure œuvre d’art de tous les temps » selon son point de vue d’Intelligence Artificielle. Source : Relevé sur le Net...

#Infernet / Tay les agents conversationnels sont des cons
▻https://www.blast-info.fr/articles/2022/infernet-tay-les-agents-conversationnels-sont-des-cons-VfabKlwDThWcH-rSdD

Internet peut être défini comme un couplage : couplage entre les réseaux de télécommunication et l’hypertexte, document ou ensemble de documents informatiques permettant de passer d’une information à une autre par un système de liens. L’hypertexte est le…

#Intelligence_artificielle
▻https://static.blast-info.fr/stories/2022/thumb_story_list-infernet-tay-les-agents-conversationnels-sont-des

TAY : L’INTELLIGENCE ARTIFICIELLE DEVENUE NAZIE EN 24H SUR TWITTER
▻https://www.youtube.com/watch?v=mtpanIOCRQw

« De même qu’après avoir détruit la planète, exterminé une immense partie des espèces animales et appauvri les neufs dixièmes des êtres humains au profit d’une minorité toujours plus réduite de bénéficiaires, le capitalisme finira nécessairement par se dévorer lui-même, les réseaux sociaux, par nature, ne seront plus un jour peuplés que par deux espèces : les trolls et les agents conversationnels, et ils seront indiscernables. Parce que le danger représenté par l’Intelligence artificielle n’est pas que des machines puissent commencer à penser comme nous.

Le danger, c’est que nous puissions nous mettre à penser comme elles. Le problème n’est pas que les agents conversationnels soient des cons. Le problème, c’est que, à force de coexister avec eux et de vivre dans un milieu favorable à leur expansion, nous finissions par éteindre notre sensibilité afin de devenir leurs semblables. »

Chroniqueur : Pacôme Thiellement
Réalisateur : Mathias Enthoven
Montage : Camille Chalot
Images : Ameyes Aït-Oufella
Son : Baptiste Veilhan
Graphisme : Adrien Colrat
Diffusion : Maxime Hector
Production : Thomas Bornot
Rédaction en chef : Soumaya Benaissa

#Tay #troll
#Intelligence
#Infernet

Tay : l’intelligence artificielle devenue nazie en 24h sur #Twitter
▻https://www.blast-info.fr/emissions/2022/tay-lintelligence-artificielle-devenue-nazie-en-24h-sur-twitter-zal8fhkuS

De même qu’après avoir détruit la planète, exterminé une immense partie des espèces animales et appauvri les neufs dixièmes des êtres humains au profit d’une minorité toujours plus réduite de bénéficiaires, le capitalisme finira nécessairement par se…

#Intelligence_artificielle
▻https://static.blast-info.fr/stories/2022/thumb_story_list-tay-lintelligence-artificielle-devenue-nazie-en-2

Une start-up israélienne produit le premier miel fabriqué par intelligence artificielle
▻https://fr.timesofisrael.com/une-start-up-israelienne-produit-le-1er-miel-fabrique-par-intellig

Dans un kibboutz de Galilée, une start-up israélienne construit des ruches robotisées qui surveillent les abeilles 24 heures sur 24 et permettent de réduire la mortalité de ces pollinisateurs majeurs, garants de la sécurité alimentaire.

« Il y a deux millions d’abeilles ici », dit Shlomki Frankin en entrant dans un conteneur blanc de 12 mètre carrés, posé en plein milieu des champs d’avocats du kibboutz Bet Haemek, dans le nord d’Israël.

https://static.timesofisrael.com/fr/uploads/2022/05/000_32A3738.jpg

Le conteneur appelé « Beehome » (maison des abeilles en anglais) peut abriter 24 ruches, explique à l’AFP l’apiculteur de 41 ans qui porte un chapeau avec un voile pour se protéger des éventuelles piqûres.

Ces maisons d’abeilles fonctionnent comme des ruches normales en bois, si ce n’est qu’elles sont gérées par un robot placé à l’intérieur qui surveille ces insectes, contrôle leur habitat et leur procure des soins, précise M. Frankin qui travaille pour la société Beewise à l’origine de la méga ruche.

Venu effectuer une visite de contrôle, il observe l’appareil électrique qui se déplace au centre du caisson bourdonnant et vient tirer un cadre de miel où sont agglutinées des abeilles mellifères.

Intelligence artificielle 
« Le robot est équipé de capteurs qui lui permettent de savoir ce qu’il se passe dans les cadres », explique à l’AFP Netaly Harari, directrice des opérations de Beewise.

« Grâce à l’intelligence artificielle, notre logiciel sait ce dont les abeilles ont besoin », dit-elle dans l’atelier où sont assemblées les grandes ruches métalliques.

Le robot peut en outre distribuer automatiquement du sucre, de l’eau, des médicaments.

En cas de problème, il alerte l’apiculteur via une application. Ce dernier peut alors intervenir à distance depuis son ordinateur et se déplacer si nécessaire.

https://static.timesofisrael.com/fr/uploads/2022/05/000_32A372M.jpg

La méga ruche, qui fonctionne à l’énergie solaire, peut aussi réguler la température, éliminer les nuisances et même extraire du miel, grâce à une centrifugeuse intégrée, affirme Netaly Harari.

La start-up va pour la première fois produire du miel à partir de la fin mai, le « premier miel au monde fabriqué avec l’intelligence artificielle ! », s’enthousiasme Mme Harari.

Pour Shlomki Frankin, « le robot est un outil pour l’apiculteur, mais il ne le remplace pas ».

« Je peux effectuer beaucoup de tâches simples à distance comme agrandir la ruche ou la réduire (…) ou bien laisser le robot faire cela et me concentrer sur d’autres tâches », dit-il ajoutant « gagner beaucoup de temps ».

Une centaine de ces ruches robotisées ont déjà été déployées en Israël et une dizaine aux Etats-Unis. Beewise lorgne une entrée sur le marché européen dans deux ans.

En avril, la start-up créée en 2018, qui compte plus de 100 employés, a levé environ 76 millions d’euros d’investissement pour développer ses exportations.

https://static.timesofisrael.com/fr/uploads/2022/05/000_32A3733.jpg

Journée mondiale
Selon le professeur Sharoni Shafir qui dirige le centre d’étude des abeilles de l’université hébraïque à Rehovot, la technologie peut aider à protéger les colonies d’abeilles de plus en plus fragilisées.

« Parfois, un apiculteur met plusieurs mois à se rendre compte d’un problème, avec le robot, il peut s’occuper du problème en temps réel, cela réduit la mortalité des abeilles », dit-il à l’AFP.

Ces dernières années, beaucoup d’entre elles ont disparu dans le monde, victimes du ‘syndrome d’effondrement des colonies’, imputé à la combinaison de plusieurs facteurs.

« La diminution des champs de fleurs sous l’effet de la construction a réduit les sources et la diversification de l’alimentation des abeilles », note l’expert.

A cela s’ajoute l’utilisation des pesticides, les maladies et les parasites comme le Varroa destructor, un acarien dévastateur, liste le professeur Shafir.

https://static.timesofisrael.com/fr/uploads/2022/05/000_32A372V.jpg

« En Israël, entre 20 et 30 % des ruches disparaissent chaque année », or, « nous dépendons des abeilles », affirme l’entomologiste qui rappelle qu’une part significative de l’alimentation humaine résulte de la pollinisation, assurée par les insectes et qui permet aux plantes de se reproduire.

Plus de 70 % des cultures – quasiment tous les fruits, légumes, oléagineux et protéagineux, épices, café et cacao – en dépendent très fortement.

« Les abeilles et autres pollinisateurs sont essentiels à la sécurité alimentaire et à la nutrition », résume l’Organisation des Nations unies pour l’alimentation et l’agriculture (FAO), qui célèbre le 20 mai la Journée mondiale des abeilles pour souligner l’importance de leur préservation.

#abeilles #agriculture #environnement #apiculture #miel #biodiversité #écologie #fin_du_monde #catastrophe #collapsologie #capitalocène #intelligence_artificielle #robot #pollen #ruches

Decolonial AI Manyfesto
▻https://manyfesto.ai/index.html

This manyfesto is a provocation, a question, an opening, a dance about a future of AI technologies that is decolonial. We call it manyfesto, since it reflects some visions among many, and we hope to invite exchange, conversation, and the development of statements from people affected by AI technology.

We begin with the challenge posed by the language we use to talk about AI: language that has emerged, as much of the technology has, dominated by Western male voices, whiteness, and wealth. We seek to uncover, to question, upend, and reinvent the assumptions underlying this language, even as we use it.

“Artificial” and “intelligence” are loaded terms, their definitions subject to cultural biases. AI is a technology, a science, a business, a knowledge system, a set of narratives, of relationships, an imaginary. Across each facet, our effort is to undo the colonial erasure of non-Western ways of being and knowing. The word “decoloniality,” too, resonates differently in different communities, including with Indigenous peoples and those for whom colonialism is not a history but a present reality. Some reject the term decolonial in this context. We acknowledge both its use and its rejection.

We do not seek consensus: we value human difference. We reject the idea that any one framework could rule globally. We reject the Western-normative language of “ethical” AI and suggestions of “inclusivity” that do not destabilize current patterns of domination and address power asymmetries. We reject as half-measures any principles meant to tweak, reinforce, and whitewash the status quo, merely blunting its devastation. They fail to acknowledge how the social and the technical are interwoven, and technologies have immaterial as well as material impacts over specific gendered, racialized bodies and territories. Decoloniality rejects the divorcing of the material and immaterial, of feeling from being, knowing, doing or living.

Notions of decolonial governances will emerge from community and situated contexts, questioning what currently constitutes hegemonic narratives. Decolonialilty is not merely diversity and inclusion; removing the echoes of coloniality in AI will require reparations for present and past material and epistemic injustice and dispossession. These reinventions of AI governance will acknowledge the expertise that comes from lived experience, and create new pathways to make it possible for those who have historically been marginalized to have the opportunity to decide and build their own dignified socio-technical futures. Decolonial governance will recognize, in a way that Western-centric governance structures historically have not, how our destinies are intertwined. We owe each other our mutual futures.

Our humanity is relational, defined by how we are tied to one another. Technology has an important role in those relationships. Creation, art, stories and sensitive experience are some of the paths that we must explore in order to foster the decolonial imagination. We seek to center the engineering, design, knowledge-production, and dispute-resolution practices of diverse cultures, which are embedded with their own value systems.

Our urgency arises from humans’ capacity to use AI as a knowledge system to create irrefutable “algorithmic truths” to reinforce domination. In doing so, other systems of knowledge production and other visions are denied and erased, as are other peoples’ agency, autonomy, and contestation. In this way AI coloniality extends beyond data colonialism: AI implies material extractivism, and the use of AI has the capacity to shape reality. Designed in an unequal society, these systems can be employed to reproduce those inequalities. Built with an emphasis on efficiency rather than dignity, they can do irreparable harm. In insisting on a decolonial AI, we stand for the right of each historically marginalized community to reshape reality on their terms.

Our methods will evolve, sensitive to needs and opportunities, but our aim is to create and hold a resonant forum for learning and exchange from and between voices silenced by colonialist structures and the coloniality in force through socio-technical systems.

#Intelligence_artificielle #Etudes_décoloniales #Data_colonialism #Colonialisme

How the AI industry profits from catastrophe | MIT Technology Review
▻https://www.technologyreview.com/2022/04/20/1050392/ai-industry-appen-scale-data-labels

https://wp.technologyreview.com/wp-content/uploads/2022/04/MIT-3b.jpeg?resize=1200,600

Appen is among dozens of companies that offer data-labeling services for the AI industry. If you’ve bought groceries on Instacart or looked up an employer on Glassdoor, you’ve benefited from such labeling behind the scenes. Most profit-maximizing algorithms, which underpin e-commerce sites, voice assistants, and self-driving cars, are based on deep learning, an AI technique that relies on scores of labeled examples to expand its capabilities. 

The insatiable demand has created a need for a broad base of cheap labor to manually tag videos, sort photos, and transcribe audio. The market value of sourcing and coordinating that “ghost work,” as it was memorably dubbed by anthropologist Mary Gray and computational social scientist Siddharth Suri, is projected to reach $13.7 billion by 2030.

Venezuela’s crisis has been a boon for these companies, which suddenly gained some of the cheapest labor ever available. But for Venezuelans like Fuentes, the rise of this fast-growing new industry in her country has been a mixed blessing. On one hand, it’s been a lifeline for those without any other options. On the other, it’s left them vulnerable to exploitation as corporations have lowered their pay, suspended their accounts, or discontinued programs in an ongoing race to offer increasingly low-cost services to Silicon Valley.

“There are huge power imbalances,” says Julian Posada, a PhD candidate at the University of Toronto who studies data annotators in Latin America. “Platforms decide how things are done. They make the rules of the game.”

To a growing chorus of experts, the arrangement echoes a colonial past when empires exploited the labor of more vulnerable countries and extracted profit from them, further impoverishing them of the resources they needed to grow and develop.

It was, of all things, the old-school auto giants that caused the data-labeling industry to explode.

German car manufacturers, like Volkswagen and BMW, were panicked that the Teslas and Ubers of the world threatened to bring down their businesses. So they did what legacy companies do when they encounter fresh-faced competition: they wrote blank checks to keep up.

The tech innovation of choice was the self-driving car. The auto giants began pouring billions into their development, says Schmidt, pushing the needs for data annotation to new levels.

Like all AI models built on deep learning, self-driving cars need millions, if not billions, of labeled examples to be taught to “see.” These examples come in the form of hours of video footage: every frame is carefully annotated to identify road markings, vehicles, pedestrians, trees, and trash cans for the car to follow or avoid. But unlike AI models that might categorize clothes or recommend news articles, self-driving cars require the highest levels of annotation accuracy. One too many mislabeled frames can be the difference between life and death.

For over a decade, Amazon’s crowdworking platform Mechanical Turk, or MTurk, had reigned supreme. Launched in 2005, it was the de facto way for companies to access low-wage labor willing to do piecemeal work. But MTurk was also a generalist platform: as such, it produced varied results and couldn’t guarantee a baseline of quality.

For some tasks, Scale first runs client data through its own AI systems to produce preliminary labels before posting the results to Remotasks, where human workers correct the errors. For others, according to company training materials reviewed by MIT Technology Review, the company sends the data straight to the platform. Typically, one layer of human workers takes a first pass at labeling; then another reviews the work. Each worker’s pay is tied to speed and accuracy, which eggs them on to complete tasks more quickly yet fastidiously.

Initially, Scale sought contractors in the Philippines and Kenya. Both were natural fits, with histories of outsourcing, populations that speak excellent English and, crucially, low wages. However, around the same time, competitors such as Appen, Hive Micro, and Mighty AI’s Spare5 began to see a dramatic rise in signups from Venezuela, according to Schmidt’s research. By mid-2018, an estimated 200,000 Venezuelans had registered for Hive Micro and Spare5, making up 75% of their respective workforces.

The group now pools tasks together. Anytime a task appears in one member’s queue, that person copies the task-specific URL to everyone else. Anyone who clicks it can then claim the task as their own, even if it never showed up in their own queue. The system isn’t perfect. Each task has a limited number of units, such as the number of images that need to be labeled, which disappear faster when multiple members claim the same task in parallel. But Fuentes says so long as she’s clicked the link before it goes away, the platform will let her complete whatever units are left, and Appen will pay. “We all help each other out,” she says.

The group also keeps track of which client IDs should be avoided. Some clients are particularly harsh in grading task performance, which can cause a devastating account suspension. Nearly every member of the group has experienced at least one, Fuentes says. When it happens, you lose your access not only to new tasks but to any earnings that haven’t been withdrawn.

The time it happened to Fuentes, she received an email saying she had completed a task with “dishonest answers.” When she appealed, customer service confirmed it was an administrative error. But it still took months of pleading, using Google Translate to write messages in English, before her account was reinstated, according to communications reviewed by MIT Technology Review. (“We … have several initiatives in place to increase the response time,” Golden says. “The reality is that we have thousands of requests a day and respond based on priority.”)

Simala Leonard, a computer science student at the University of Nairobi who studies AI and worked several months on Remotasks, says the pay for data annotators is “totally unfair.” Google’s and Tesla’s self-driving-car programs are worth billions, he says, and algorithm developers who work on the technology are rewarded with six-figure salaries.

In parallel with the rise of platforms like Scale, newer data-labeling companies have sought to establish a higher standard for working conditions. They bill themselves as ethical alternatives, offering stable wages and benefits, good on-the-job training, and opportunities for career growth and promotion.

But this model still accounts for only a tiny slice of the market. “Maybe it improves the lives of 50 workers,” says Milagros Miceli, a PhD candidate at the Technical University of Berlin who studies two such companies, “but it doesn’t mean that this type of economy as it’s structured works in the long run.”

Such companies are also constrained by players willing to race to the bottom. To keep their prices competitive, the firms similarly source workers from impoverished and marginalized populations—low-income youth, refugees, people with disabilities—who remain just as vulnerable to exploitation, Miceli says.

#Intelligence_artificelle #Annotation #Tags #Etiquetage #Nouvelle_exploitation #Data_colonialisme