• What AI still can’t do - MIT Technology Review
    https://www.technologyreview.com/s/615189/what-ai-still-cant-do

    In less than a decade, computers have become extremely good at diagnosing diseases, translating languages, and transcribing speech. They can outplay humans at complicated strategy games, create photorealistic images, and suggest useful replies to your emails.

    Yet despite these impressive achievements, artificial intelligence has glaring weaknesses.

    Machine-learning systems can be duped or confounded by situations they haven’t seen before. A self-driving car gets flummoxed by a scenario that a human driver could handle easily. An AI system laboriously trained to carry out one task (identifying cats, say) has to be taught all over again to do something else (identifying dogs). In the process, it’s liable to lose some of the expertise it had in the original task. Computer scientists call this problem “catastrophic forgetting.”

    These shortcomings have something in common: they exist because AI systems don’t understand causation. They see that some events are associated with other events, but they don’t ascertain which things directly make other things happen. It’s as if you knew that the presence of clouds made rain likelier, but you didn’t know clouds caused rain.

    But there’s a growing consensus that progress in AI will stall if computers don’t get better at wrestling with causation. If machines could grasp that certain things lead to other things, they wouldn’t have to learn everything anew all the time—they could take what they had learned in one domain and apply it to another. And if machines could use common sense we’d be able to put more trust in them to take actions on their own, knowing that they aren’t likely to make dumb errors.

    Pearl’s work has also led to the development of causal Bayesian networks—software that sifts through large amounts of data to detect which variables appear to have the most influence on other variables. For example, GNS Healthcare, a company in Cambridge, Massachusetts, uses these techniques to advise researchers about experiments that look promising.

    In one project, GNS worked with researchers who study multiple myeloma, a kind of blood cancer. The researchers wanted to know why some patients with the disease live longer than others after getting stem-cell transplants, a common form of treatment. The software churned through data with 30,000 variables and pointed to a few that seemed especially likely to be causal. Biostatisticians and experts in the disease zeroed in on one in particular: the level of a certain protein in patients’ bodies. Researchers could then run a targeted clinical trial to see whether patients with the protein did indeed benefit more from the treatment. “It’s way faster than poking here and there in the lab,” says GNS cofounder Iya Khalil.

    Nonetheless, the improvements that Pearl and other scholars have achieved in causal theory haven’t yet made many inroads in deep learning, which identifies correlations without too much worry about causation. Bareinboim is working to take the next step: making computers more useful tools for human causal explorations.

    Getting people to think more carefully about causation isn’t necessarily much easier than teaching it to machines, he says. Researchers in a wide range of disciplines, from molecular biology to public policy, are sometimes content to unearth correlations that are not actually rooted in causal relationships. For instance, some studies suggest drinking alcohol will kill you early, while others indicate that moderate consumption is fine and even beneficial, and still other research has found that heavy drinkers outlive nondrinkers. This phenomenon, known as the “reproducibility crisis,” crops up not only in medicine and nutrition but also in psychology and economics. “You can see the fragility of all these inferences,” says Bareinboim. “We’re flipping results every couple of years.”

    On reste quand même dans la fascination technologique

    Bareinboim described this vision while we were sitting in the lobby of MIT’s Sloan School of Management, after a talk he gave last fall. “We have a building here at MIT with, I don’t know, 200 people,” he said. How do those social scientists, or any scientists anywhere, decide which experiments to pursue and which data points to gather? By following their intuition: “They are trying to see where things will lead, based on their current understanding.”

    That’s an inherently limited approach, he said, because human scientists designing an experiment can consider only a handful of variables in their minds at once. A computer, on the other hand, can see the interplay of hundreds or thousands of variables. Encoded with “the basic principles” of Pearl’s causal calculus and able to calculate what might happen with new sets of variables, an automated scientist could suggest exactly which experiments the human researchers should spend their time on.

    #Intelligence_artificielle #Causalité #Connaissance #Pragmatique #Machine_learning

  • ::::: : Présentation de la page Le New Organum ::::: :

    Le #discours_scientifique est partout présent, omniscient, omniscientifique. Si la #science nous dit la #vérité du monde, ou du moins nous est présentée comme telle, intéressons nous à la manière dont elle entend dire cette vérité, pour tenter de comprendre comment l’autorité vient au discours. On peut concevoir l’activité de #critique de très nombreuses manières. Si la critique est communément associée à la #déconstruction des rapports de domination, nous l’entendons plutôt comme une activité de #construction, de création, au principe même de l’activité scientifique. La critique est moins la négation de l’objet sur lequel elle porte, que la négation des effets d’autorité de ces objets. Il s’agit alors, dans cette perspective, de s’intéresser aux discours, mais aussi à leur mise en forme. Mettre en forme, c’est aussi mettre les formes. Si l’on se demande dans un premier temps comment le discours scientifique légitime l’action politique, il s’agit ensuite de comprendre comment la mise en forme du discours scientifique lui confère une autorité. Cette page est un espace de confrontation et d’interprétations de discours scientifiques. Elle procède par agencements, rapprochements, confrontations, mise en rapport de productions théoriques provenant de sources diverses. Nous emprunterons différentes voies, de manière à donner à voir différents points de vue sur ce paysage accidenté qu’est la production scientifique. Il s’agira de rendre ce terrain praticable, en installant des points de fixation intermédiaires, des prises communes, et ouvrant par ailleurs des voies nouvelles, transversales, et parfois sinueuses.
    Sarah Calba, Vivien Philizot et Robin Birgé

    ::::: : Les auteurs ::::: :
    Sarah Calba, chercheur-arpenteur, a récemment soutenu une thèse en #épistémologie intitulée Pourquoi sauver Willy ? Pourquoi et non comment car, dans cet écrit, il s’agit de définir la science en fonction de ses finalités : la science prétend-elle expliquer le réel, unique, en découvrant des lois naturelles ou souhaite-t-elle comprendre les réalités humaines en construisant des #représentations partagées ? Et puisque différentes finalités engagent différentes manières de faire, c’est en arpentant les voies et les voix de la #recherche_scientifique, et en particulier celles de l’écologie des communautés – discipline dédiée à l’explication de la répartition des espèces biologiques sur la planète bleue –, que Sarah argumente sa thèse. Elle distingue alors deux types de voies : celles abondamment pratiquées, simples, efficaces, aux prises évidentes, de la recherche ici nommée analytique, et celles, soucieuses de leur style, plus sinueuses car procédant par détours voire retours sur leur propre parcours, de la recherche dite synthétique... et c’est, bien sûr, la défense de cette dernière qui est la fin de cette thèse.

    Vivien Philizot est graphiste, doctorant et maître de conférences associé en #design. Il enseigne à l’Université de Strasbourg et à la Head à Genève. Il prépare une thèse qui porte sur le rôle du #design_graphique dans la #construction_sociale du champ visuel et dans la construction visuelle du champ social. Il s’agit notamment d’articuler une épistémologie des sciences avec une histoire critique du design graphique à l’époque moderne, envisagé comme manière de donner à voir et à connaître. Sont ainsi cartographiées, à vue, différentes voies par lesquelles le design graphique s’est construit, souvent envisagées par les grimpeurs modernistes comme des accès privilégiés à la vérité de l’image et du texte. Une approche #pragmatique consiste alors à considérer la pertinence de ces voies de manière locale plutôt qu’universelle, en les rapportant aux conditions historiques et climatiques dans lesquelles elles ont été posées. Le cheminement de la voie, la succession des prises, et l’inclinaison de la paroi ne sont-ils pas plus importants que la hauteur qu’ils nous permettent d’atteindre ? Peut-être faut-il garder à l’esprit que les points de vue que les théories de l’image se sont attachées à naturaliser, restent relatifs aux voies qu’elles nous conduisent à emprunter, et aux postures du corps et de l’œil qu’elles ont ainsi contribué à construire.

    Robin Birgé est doctorant en #anthropo-épistémologie. Il s’intéresse aux voies que prend la construction du savoir scientifique, et particulièrement au statut de la #connaissance quand les chemins bifurquent. Lorsque le premier de cordé arrive à un embranchement et choisi une voie plutôt qu’une autre, une théorie plutôt qu’une autre pendant une #controverse par exemple, nous pouvons (1a) considérer que finalement, ce qui compte, c’est la hauteur finale atteinte, soit l’accumulation de connaissances. Malgré le fait que les voies divergent et “fonctionnent bien d’un point de vue pratique”, il s’agit cependant du même rocher - du même réel ; on s’élève différemment mais pour parler d’une même chose en soi. Finalement, les voies finiraient par se rejoindre, et si les voies ne se rejoignent pas, le réel impitoyable du rocher finira par avoir raison de la vie de nos grimpeurs (les mauvaises théories seront alors éliminées). Une autre façon d’aborder la #philosophie de l’escalade, celle engagée ici, est que (1b) si des voies sont sans issue ou tournent en rond, il est envisageable qu’après tout relais elles prennent des versants différents et ne se rencontrent jamais : autrement dit, des visions du monde divergentes peuvent ne jamais se rencontrer.
    Plus précisément, cette thèse porte sur le statut d’un savoir particulier : celui de la figure de l’#expert en démocratie. Il s’agit notamment de dessiner les différentes façons d’articuler le réel-rocher, à sa connaissance si ce dernier existe, à sa médiation et au à la mobilisation du savoir lors de la prise de décision politique.