person:von neumann

  • Quand des intelligences artificielles trouvent des solutions qui n’avaient pas été prévues par leurs créateurs

    http://www.gurumed.org/2018/05/06/quand-des-intelligences-artificielles-trouvent-des-solutions-qui-navaient-p

    Le chercheur autrichien Károly Zsolnai-Fehér présente dans la vidéo ci-dessous quatre exemples d’intelligence artificielles (IA) trouvant des failles que les programmeurs n’avaient pas prévues.

    Vous y verrez une IA sous la forme d’une créature virtuelle à 6 pattes à laquelle on demande de minimiser la quantité de contact avec ses pieds. L’IA prendra rapidement le parti de se mettre sur le dos et de se déplacer avec ses coudes (0% de contact), chose que son créateur n’avait pas prévu.

    https://www.youtube.com/watch?time_continue=5&v=GdTBqBnqhaQ

    L’évolution biologique fournit une source créative d’adaptations complexes et subtiles, surprenant souvent les scientifiques qui les découvrent. Cependant, parce que l’évolution est un processus algorithmique qui transcende le substrat dans lequel il se produit, la créativité de l’évolution n’est pas limitée à la nature. En effet, de nombreux chercheurs dans le domaine de l’évolution numérique ont observé que leurs algorithmes et organismes en évolution subvertissent leurs intentions, exposant des bugs non reconnus dans leur code, produisant des adaptations inattendues ou présentant des résultats qui convergent étrangement avec ceux de la nature.

    Ce faisant, nous présentons également ici des preuves substantielles que l’existence et l’importance des imprévus évolutionnaires s’étendent au-delà du monde naturel, et peuvent en effet être une propriété universelle de tous les systèmes évolutifs complexes.

    • Ce qui pose me question dans tout ça, c’est cette propension a utiliser l’expression « une intelligence artificielle », avec un article défini. Ça suppose qu’on est en train de parler d’une entité autonome, douée d’intelligence. Il n’y a rien de plus faux, et surtout il n’y a rien de mieux pour brouiller le débat et les vraies questions qui se posent aujourd’hui autours de l’IA.

      Dit autrement : l’intelligence artificielle je sais ce que c’est : un champ de recherche, concernant un ensemble de disciplines, et qui produit un certain nombre de techniques et de réflexions sur l’automatisation de certaines tâches nécessitant des compétences relevant de l’intelligence (et même là il faudrait définir beaucoup plus finement... mais on va dire qu’en gros c’est ça).

      Une intelligence artificielle je ne sais pas ce que c’est, mais je sais les dégâts sémantiques et les occultations que ça provoque.

      Pour revenir à l’article de gurumed, je n’ai pas grand chose à en dire : on ne sait strictement rien des modèles utilisés par les exemples cités, il est donc impossible de commenter quoi que ce soit (ni même de s’esbaudir d’ailleurs !). Allez, si le seul finalement sur lequel on peut dire quelque chose c’est sur l’araignée qui marche sur le dos. Le regard extérieur trouve ça extraordinaire à cause de la visualisation du phénomène. Retirez la vidéo, et voyez le problème juste sous l’angle de son modèle, c’est à dire de sa représentation mathématique, et franchement ça n’a rien, mais alors vraiment rien d’impressionnant. C’est juste un problème d’optimisation sur un critère. il y a un critère d’optimisation (le moins de contact des pattes avec le sol), et votre modèle va naturellement vers la solution optimale, parce que vous n’avez pas posé la contrainte qu’on ne marche pas « sur la tête ») il n’y a vraiment rien de remarquable là dedans. Et notez au passage que des fonctions relevant de l’intelligence, en l’espèce, il n’y en a pas beaucoup dans cet exemple.

      Un autre petit exemple des ravages de cette expression « une intelligence artificielle » : le fait de croire en une entité autonome alimente la thèse des tenants de « l’avènement de la singularité », autrement dit le supposé moment ou une machine s’affranchirait de l’homme et deviendrait autonome au point de reléguer l’humanité à un rang secondaire. Bullshit bien sûr, en tout cas tant que l’ordinateur fonctionnera sur le modèle des ordinateurs actuels (l’architecture dite de Von Neumann, ou la machine de Turing si vous préférez). Tant qu’on en sera à ce modèle, l’ordinateur n’est capable que de réaliser des tâches réductibles à des fonctions calculables (au sens de Turing, c’est donc une notion mathématique bien définie). Flipper sur l’avènement de l’IA qui dominera l’homme reviendrait donc à penser que l’intelligence peut se réduire à un ensemble de fonctions calculables. Hum... Gonflé non ? Mais en revanche, ce qui est certain, c’est que pendant qu’on fait flipper les gens là dessus, on évite de se poser trop de questions sur la collecte des données nécessaire au fonctionnement de toutes les applis à base de réseaux de neurones (qui, au passage, est une toute partie de l’IA, très à la mode, mais très peu fondée scientifiquement - on ne sait pas pourquoi ça marche - et donc les capacités cognitives sont assez limitées : c’est fait pour faire de la perception, de la reconnaissance, du classement, mais pas de l’inférence)

      Ceci dit sans vouloir froisser personne, mais il se trouve que je suis modestement chercheur dans le domaine depuis une vingtaine d’années, et que l’apparition subite de ce l’article défini devant le terme IA (depuis 2-3 ans on va dire) me pose question, et me dérange pour tout dire.

      #ia #mythe_de_la_singularité #autonomie_des_machines #mensonge_technologique #scientisme

    • Je pondère / corrige : je n’avais pas vu le lien vers l’article complet. Je suis allé y jeter un oeil. Il faudrait que je prenne un peu de temps pour analyser ce qui y est dit. Une première remarque après lecture en diagonale. Les algorithmes évolutionnaires constituent une forme d’approche de l’optimisation sous contraintes, donc dans ce que j’ai pu dire sur l’araignée je ne pense pas m’être trop trompé.

      Et puis j’ai fait mon rustaud : merci pour avoir signalé ces exemples, c’est intéressant. Et on peut noter au passage que dans l’article des chercheurs, ils se gardent bien de parler « d’une intelligence artificielle » ou « d’intelligences artificielles » ;o)

    • Plutôt sympa d’intégrer dans la visée tout ce qu’il faut habituellement se trimballer séparément et connecter - sauf l’anémomètre que je n’y vois pas : il faut probablement saisir manuellement la vitesse et le cap du vent à différentes distances.

      L’article ridiculise la fonctionnalité de transmission d’image en parlant de publication sur Facetweet, mais pouvoir transmettre au commandement ce qu’on a en visée est un bénéfice majeur.

      C’est moins efficace que les balles guidées par laser (http://www.thefirearmblog.com/blog/2012/01/31/the-first-self-guided-bullet) mais on conserve les munitions habituelles et on peut utiliser des calibres en dessous du 12.7 mm qui reste actuellement le plancher pour la miniaturisation du guidage laser.

    • La DARPA bosse (ou fait bosser) dessus depuis 2007 et le projet avance régulièrement.

      Et tout est intégré (on va quand même pas s’amuser à rentrer le vent… la première phase du projet portait justement là dessus).

      Darpa’s Self-Aiming « One Shot » Sniper Rifle Scheduled for Next Year | Popular Science (article de 2010)
      http://www.popsci.com/technology/article/2010-10/aiming-help-snipers-lockheed-develops-one-shot-solution

      During the project’s first phase, which started in 2007, Lockheed developed a down-range system that measured average crosswind; range to target; spotter scope position; air temperature, pressure, and humidity; and more, according to Military Aerospace. Using all those variables, it calculated the ballistics for a .308 bullet at ranges as far as 3,600 feet.
      While that’s impressive, the system was too heavy and unwieldy, and it couldn’t be used with standard rifle scopes.
      The phase two design will be more compact and able to operate in real time and over longer distances.

      It will measure atmospheric conditions, account for the weapon’s maximum effective range and include GPS coordinates. It’s also supposed to communicate with the rifle scope, informing the gun itself of the aim point offset and expected crosswind.

      Sur le site de la DARPA
      One Shot XG
      http://www.darpa.mil/Our_Work/AEO/Programs/One_Shot_XG.aspx

      This next-generation One Shot envisions a compact observation, measurement, and ballistic calculation system mountable on either the weapon or spotting scope. The system developed will measure all relevant physical phenomena that influence the ballistic trajectory and rapidly calculate and display the offset aim point and confidence metric in the shooter’s riflescope. The system will provide the ability to see the aim point on the target in either day or night to enable rapid target identification, weapon alignment, measurement of range to target and the crosswind profile. The XG system seeks to exploit new technologies to operate over a range of visibilities, atmospheric turbulence, scintillation and environmental conditions.

      One Shot XG Phase 2 began in March 2013 and is expected to be complete in Spring 2014. If successful, One Shot XG would lead to limited rate production with the military services taking on the requirement and acquisition role for future procurement.

    • Que le calculateur intègre le vent dans son calcul, certes. Mais comment le mesure-t-il ? Aujourd’hui le tireur se trimballe un anémomètre de poche, estime pifométriquement les variations du vent le long de la trajectoire du tir et entre tout ça dans son calculateur (connecté ou non à sa visée) s’il en a un - sinon il se contente d’ajuster sa visée. Pour remplacer ça, il faudrait un LIDAR Doppler embarqué pour obtenir une mesure instantanée de la direction et de la vitesse du vent sur tous les points le long de la visée... Or les modèles que j’ai pu trouver sont bien loin d’être suffisamment miniaturisés - le modèle de 45 kg est dit ’ultra portable’ :
      http://www.lidarwindtechnologies.com/index.php?page=product-services
      http://www.campbellsci.com/zephir-lidar-specifications
      http://www.sgurrenergy.com/wp-content/uploads/2013/01/Galion-Brochure-B2.pdf
      Je continue donc à fortement soupçonner la saisie manuelle.

    • Bon... Alors mon estimation de la miniaturisation d’un LIDAR Doppler est fausse d’au moins un ordre de grandeur. Pour un usage pacifique, je suis sûr qu’un paquet d’activités de loisir bénéficieraient d’un bidule de la taille d’un anémomètre de poche qui affiche le profil des vitesses du vent sur quelques centaines de mètres.