#machine_learning

#prothèses #implants #santé

New Database Tracks Faulty Medical Devices Across The Globe - ICIJ
▻https://www.icij.org/investigations/implant-files/new-database-tracks-faulty-medical-devices-across-the-globe

As part of its investigation, ICIJ created a #machine_learning algorithm to screen through the text of millions of “adverse event” reports filed by manufacturers and others to the U.S. Food and Drug Administration. Nearly 500,000 reports over the last decade describe explant surgeries in connection with a medical device, ICIJ found.

Regulators across the West are in need of a shake-up - The regulators
▻https://seenthis.net/messages/736479

Encore un #making-of (ça devient barbant à force), mais c’est quand même assez intéressant
▻https://www.cjr.org/special_report/behind_the_scenes_icij_implant_files.php

Ce récit coloré de l’annonce des performances en classification d’images d’une technique de deep learning (Krizhevsky, Sutskever et Hinton, 2012) témoigne des effets que provoque sur une communauté scientifique la réussite soudaine d’un paradigme hétérodoxe longtemps marginalisé. Surprise devant le résultat, interrogation sur la validité épistémique de la nouvelle démarche, inquiétude sur le devenir du paradigme orthodoxe, moquerie devant l’ignorance des enjeux théoriques du domaine des nouveaux entrants, vertige face au renversement de paradigme qui se profile... Depuis 2010, domaine après domaine, les réseaux de neurones profonds provoquent la même perturbation au sein des communautés informatiques traitant du signal, de la voix, de la parole ou du texte. Une méthode d’apprentissage proposant le traitement le plus « brut » possible des entrées, évacuant toute modélisation explicite des caractéristiques des données et optimisant la prédiction à partir d’énormes échantillons d’exemples, produit de spectaculaires résultats. Une manière simple de figurer ce renversement est de le caractériser comme le passage d’une machine hypothético-déductive à une machine inductive (figure 1).

Ce qui était conçu comme la partie « humaine » de la fabrication des calculateurs, le programme, les règles ou le modèle, n’est plus ce qui est introduit dans le système, mais ce qui en résulte. Le regard que portent les sciences sociales sur ce tournant inductif consiste souvent à déconstruire l’illusion naturaliste des données « brutes » et les naïvetés d’un calcul sans théorie (Gitelman, 2013). Si une telle mise en garde est certainement nécessaire pour relativiser certains discours imprudents assurant que les « données parlent d’elles-mêmes », elle ne rend cependant pas justice au travail résolu et intensément artificiel entrepris par les promoteurs des techniques de deep learning pour imposer la seconde architecture de calcul, celle que nous appellerons dans cet article machine inductive et, plus précisément encore, machine connexionniste afin de mettre en évidence le type particulier d’induction dont elle se réclame.

https://dl.dropbox.com/s/gueq92lhtug3ue7/20181117_RdN.png

[…]

Dans l’histoire tumultueuse de ce domaine de recherche, les techniques d’apprentissage utilisant des réseaux de neurones – que l’on appellera donc « connexionnistes » ont même longtemps été moquées et ostracisées par le courant « symbolique ». La tension entre ces deux approches est née avec la démarcation que la naissance de l’Intelligence artificielle opposa à la première cybernétique. L’approche symbolique qui constitue le cadre de référence initial de l’IA s’est identifiée à un cognitivisme orthodoxe : penser, c’est calculer des symboles qui ont à la fois une réalité matérielle et une valeur sémantique de représentation. En revanche, le paradigme connexionniste considère que penser s’apparente à un calcul massivement parallèle de fonctions élémentaires – celles qui seront distribuées au sein d’un réseau de neurones – dont les comportements signifiants n’apparaissent au niveau collectif que comme un effet émergent des interactions produites par ces opérations élémentaires (Andler, 1992). Cette distinction entre deux manières de concevoir et de programmer le fonctionnement « intelligent » d’une machine est au principe d’une tension qui n’a jamais cessé de structurer très profondément les orientations de recherche, les trajectoires scientifiques et la conception d’infrastructure de calcul. Aussi assiste-t-on aujourd’hui à un de ces retournements de situation dont l’histoire des sciences et des techniques est coutumière : une stratégie de recherche marginalisée par ceux qui ont contribué à poser les cadres conceptuels de l’Intelligence artificielle revient au-devant de la scène et se trouve désormais en position de redéfinir très différemment le domaine dont elle avait été exclue. Comme le souligne ironiquement Michael Jordan (2018), « c’est l’agenda intellectuel de Wiener qui domine aujourd’hui sous la bannière de la terminologie de McCarthy ».

très bien en effet ;-)

Au cœur de ce débat tendu avec la communauté du machine learning, un sous-entendu est omniprésent : il n’y a que dans les laboratoires que les modèles sont linéaires, le monde, le « vrai monde », celui des données produites par la numérisation des images, des sons, des paroles et des textes, lui, est non linéaire. Il est bruité, l’information y est redondante, les flux de données ne sont pas catégorisés derrière des attributs de variables homogènes, claires et construites de façon intelligible, les exemples sont parfois faux.

(...) La croissance exponentielle des jeux de données accompagne dans le même mouvement celle des architectures des calculateurs : le nombre de neurones dans un réseau double tous les 2,4 ans

(...) Il y a une vague qui est la vague des données, une espèce de grande vague de fond qui a tout emporté. Et cela a bazardé complètement tous les courants de pensée qui étaient basés sur de la modélisation humaine, sur de la modélisation explicite. J’ai travaillé sur plusieurs domaines qui sont des domaines applicatifs, de la parole, de l’écrit, du texte, des données sociales, et chaque fois j’ai vu la même chose. Les gens ont imaginé pendant une période mettre des connaissances dans leur système et cela a été balayé. Systématiquement !

(...) En transformant l’architecture des machines prédictives, les connexionnistes ont ainsi contribué à déplacer les mondes sociaux de l’IA : d’abord, parce que les données « réelles », notamment celles venues des industries du numérique, se sont (partiellement) substituées aux dataset « jouets » des laboratoires académiques, ensuite parce que les savoir-faire requis pour fabriquer les machines connexionnistes appellent des compétences en développement informatique qui n’étaient pas celles des précédentes génération

#IA #machine_learning #deep_learning #histoire #recherche

Je précise tout de suite avant de poursuivre que je suis chercheur dans le domaine de l’IA symbolique, histoire de ne pas enfumer mon monde...

Le panorama décrit est plutôt honnête, quoi qu’il soit beaucoup plus fourni côté connexionniste que côté symbolique. Cela laisse à penser que les auteurs sont des gens actifs dans la communauté connexionniste (je n’ai pas été vérifier j’avoue).

On peut reprocher à l’article un certain ton revanchard. L’IA symbolique est très loin d’être morte et enterrée, de gros progrès ont été réalisé ces 20 dernières années, en particulier dans la résolution pratique de problèmes à forte combinatoire, ce qui a ouvert à nombre d’applications sur des problèmes réel avec des quantités de données assez faramineuses (ce genre de solveur par exemple est très efficace : ▻https://potassco.org/clingo ).
Ce point contredit une thèse sous-jacente de l’article, qui dit en substance : dès qu’il y a plein de données, l’approche symbolique est dans les choux.

En revanche l’historique synthétique de l’IA est plutôt bien écrite.

Ah, et un petit problème passé sous silence par les auteurs : le problème des réseaux de neurones, c’est qu’aujourd’hui encore, d’un point de vue théorique, on ne sais pas trop comment ça marche. C’est quand même assez embêtant...

Ah oui un autre point gênant : finalement les auteurs ne sortent pas de la guerre connexionisme vs. symbolisme : ils parlent des progrès des approches connexionnistes dans le domaine des tâches de perception. C’est tout à fait vrai et spectaculaire (et les auteurs soulignent bien que le symbolisme ne vaut pas un clou dans ce domaine). En revanche ils se gardent bien de parler de tâches de raisonnement (au sens très large d’inférer de nouvelles connaissances à partir de connaissances préexistantes). Dans ce domaine les approches symboliques restent très largement supérieures (en particulier grâce aux progrès que j’ai mentionnés plus haut).

Et comme je ne voudrais pas que vous croyiez que dès qu’on parle connexionisme ça me déclenche des crises d’urticaire, je signale que j’ai lu plusieurs papiers récemment qui parlent d’approches combinant connexionisme & symbolisme, et que je trouve ça plutôt intéressant. Très grossièrement deux approches différentes : a) les sorties du réseau de neurones sont utilisées pour apprendre des représentations symboliques. b) le réseau de neurone est utilisé pour apprendre la sémantique de certains formalismes logiques (dits « non monotones »). Bref, il s’agit dans les deux cas d’utiliser les bonnes performances des approches connexionnistes en terme d’apprentissage de perceptions, et les bonne performances des systèmes symboliques en terme d’inférence (et aussi le fait qu’on puisse caractériser formellement les propriétés de ces systèmes).

Et je précise que compte tenu de mon age, je ne me sens absolument pas concerné par la guéguerre pleine de dédain entre famille connexionniste et famille symbolique (ce sont plutôt mes ancêtres scientifiques qui s’adonnaient à ça).

Je précise que mon commentaire précédent ne se veut absolument pas une analyse exhaustive de l’article cité : je l’ai lu assez rapidement par manque de temps, il faudrait que je relise à tête reposée pour développer. Autrement dit c’est juste un ensemble de questionnements rapides suite à une lecture elle aussi rapide !

C’est vrai qu’il y un ton un peu revanchard. On sent à travers les citations et les anecdotes — les types qui se dévouent pour aller s’emmerder à la cantine avec Yann LeCun — que c’est un milieu social assez toxique.

L’article offre une vue sur la science en train de se faire, et de ce point de vue est assez passionnant. Il montre que le connexionnisme radical est une idée brute d’une grande puissance ; mais c’est comme le feu : pour en tirer un maximum d’énergie il va falloir créer des machines qui préparent le combustible, contrôlent les flux de chaleur, et évitent les rejets polluants.

#morphologie_urbaine #géographie_urbaine

#machine_learning et bien écrit (avec un plot twist à la fin évidemment)

Article de 2014.

Previously on seenthis : ▻https://seenthis.net/messages/213844

Enfin le remplacement des robots humains par de vrais robot dans les rédactions des médias majoritaires ?

#wtf #lol

c’est l’idée la plus stupide du moment

+500

c’est l’idée la plus stupide du moment

–500

Bon, ben on va prendre l’opinion moyenne :-D

Question bête : l’apprentissage est supervisé ou pas ?

(je sais que non supervisé veut juste dire que le biais est dans le corpus, mais supervisé voudrait dire que « l’impartialité » est décrétée…)

Enfin, pour être complet : la dernière phrase de l’article (quand même…)

Ultimately, and perhaps unsurprisingly, it may be hard to find simple technological fixes to the very human problems of misinformation and bias.

#quizás_quizás_quizás

Je trouve assez drôle l’éternelle redistribution des cartes du pouvoir de contrôle de la machine à faire du vrai mais pas trop voire un peu à moitié travail de journalisme.
Je propose qu’on coupe les mots en deux.
J prop qu’ cou l m e de.

Excellent !

Would you trust a self driving car that uses a road database where 0.1 percent of the roads lead into a lake or wall?

Héhé, hier c’était pour l’élite, demain ce sera pour tous.
▻https://www.youtube.com/watch?v=ZHtQwxKaofk

@fil Tout est dans le presque

C’est marrant, hier je cherchais un logiciel libre de BD pour réaliser un roman photo de type Comic Life avec lequel j’avoue, je m’étais bien amusée quand il était livré avec les Macs. Et j’ai trouvé des tas de softs, non libres, qui extraits les images de vidéos pour en faire des images de story board. Quand je tombe sur des machines qui créent à ma place, j’ai envie de les pousser dans leur retranchement. Par exemple, si tu fais mouliner 10 fois ce type d’image avec en plus des épluchures de carottes, ça va commencer à m’intéresser :)

https://pbs.twimg.com/media/DUsy3pgWkAImvU0.jpg http://images.frandroid.com/wp-content/uploads/2017/12/google-storyboard-630x354.jpg

une réaction intéressante dans ce thread
▻https://twitter.com/vtcraghead/status/943531031566659584

ça me rappelle le coup de gueule d’un chercheur en NLP il y a quelques mois, notamment l’accusation de plantage de drapeau sur arXiv : ▻https://medium.com/@yoav.goldberg/an-adversarial-review-of-adversarial-generation-of-natural-language-409ac337

C’est vrai que c’est un travers de la recherche et surtout des incitations idiotes qui lui sont imposées : ça produit un biais vers la nouveauté, juste pour la nouveauté.

Je ne vois pas vraiment ça en big pharma (merci de m’aiguiller si possible) mais en bioinformatique, c’est monnaie courante ; les journaux sont pleins de nouvelles techniques, de nouveaux logiciels etc. qui ne sont que des légères modifications de méthodes existantes. Elles n’apportent rien au quotidien des chercheurs mais ça vaut un papier, juste parce que c’est nouveau. Et vu que la plupart du code n’est écrit que pour pouvoir publier un papier, on se retrouve avec du ’post-doc’-ware de piètre qualité, sur lequel on ne peut pas vraiment construire.

#ai
L’article : ▻https://arxiv.org/pdf/1703.00848.pdf

Exemples :
▻https://github.com/mingyuliutw/unit

https://github.com/mingyuliutw/UNIT/raw/master/docs/snowy2summery.gif

Et donc gros potentiel en #fake_news

et une conférence sur le sujet
▻https://fatconference.org

un institut qui ouvre (aujourd’hui même) à NUY
▻https://ainowinstitute.org

Rights & Liberties

As artificial intelligence and related technologies are used to make determinations and predictions in high stakes domains such as criminal justice, law enforcement, housing, hiring, and education, they have the potential to impact basic rights and liberties in profound ways. AI Now is partnering with the #ACLU and other stakeholders to better understand and address these impacts.

Labor & Automation

Bias & Inclusion

Safety & Critical Infrastructure