• #cryptoeconomics and Asimov’s Psychohistory
    https://hackernoon.com/cryptoeconomics-and-asimovs-psychohistory-e0a3a70157be?source=rss----3a8

    I recently finished the Foundation series by Isaac Asimov, one of the most popular and influential science fiction series ever, and I found myself getting pulled into it for many of the same reasons I have become so interested in cryptocurrencies and decentralized #blockchain projects. The trading, the “moon” and the “lambos” are all great, but what keeps me hooked on crypto is the developing field of cryptoeconomics, a technology-enabled mix of philosophy, sociology, psychology and economics; I will leave it to Vitalik to explain it in more detail.Using cryptography to prove properties about messages that happened in the past and economic incentives defined inside the system to encourage desired properties to hold into the future.(Paraphrased from Vitalik Buterin’s presentation on (...)

    #bitcoin #asimov-psychohistory #isaac-asimov

  • Un stand-alone d’#Asimov bien décevant : Némésis
    Malgré un super potentiel, des personnages de femmes scientifiques élaborés, des dilemmes politiques, d’autres formes de vie, Némésis se referme sur un goût de pas assez.

    http://monot.jc.pagesperso-orange.fr/biblio/nemesi__.htm
    http://www.noosfere.org/icarus/livres/niourf.asp?numlivre=2146574530

  • Lois de la robotique — David Larlet
    https://larlet.fr/david/stream/2015/02/28

    Que se passe-t-il lorsque l’on remplace « Un robot » par « Le code d’un développeur » ?

    Le code d’un développeur ne peut porter atteinte à un être humain, ni, en restant passif, permettre qu’un être humain soit exposé au danger.
    Le code d’un développeur doit obéir aux ordres qui lui sont donnés par un être humain, sauf si de tels ordres entrent en conflit avec la Première loi.
    Le code d’un développeur doit protéger son existence tant que cette protection n’entre pas en conflit avec la Première ou la Deuxième loi.

    La première loi rend le développement de drones impossible, la deuxième le trading haute fréquence impossible, la troisième la surveillance de masse impossible

    #asimov #developpeurs

  • Isaac #Asimov Asks, “How Do People Get New Ideas ?”
    http://www.technologyreview.com/view/531911/isaac-asimov-asks-how-do-people-get-new-ideas

    ... the person who is most likely to get new ideas is a person of good background in the field of interest and one who is unconventional in his habits. (To be a crackpot is not, however, enough in itself.)

    Once you have the people you want, the next question is: Do you want to bring them together so that they may discuss the problem mutually, or should you inform each of the problem and allow them to work in isolation?

    My feeling is that as far as creativity is concerned, isolation is required. The creative person is, in any case, continually working at it. His mind is shuffling his information at all times, even when he is not conscious of it. (The famous example of Kekule working out the structure of benzene in his sleep is well-known.)

    The presence of others can only inhibit this process, since creation is embarrassing. For every new good idea you have, there are a hundred, ten thousand foolish ones, which you naturally do not care to display.

    #création

  • Les robots peuvent faire pression sur les humains pour leur faire faire des choses contre leur volonté - FastCompany.com
    http://www.fastcompany.com/3027845/fast-feed/study-says-robot-autorities-can-pressure-humans-to-do-things-against-th

    Nous obéirons peut-être mieux aux #autorités robotiques qu’aux hommes, même quand leurs ordres sont en conflit avec notre conscience. Règle, processus, soumission. Tags : internetactu2net fing internetactu autorité #chef #robot #psychologie

  • Nous sommes sans doute la dernière génération à vivre avant l’utilisation réelle des « robots tueurs » sur le terrain

    "Les opérateurs voient quatre hommes barbus (sic) avec des fusils sur l’épaule..."

    Alexander Harang du « Conseil pour la paix » est très actif dans la lutte contre les robots tueur. La grande photo représente le drone « Predator » lequel est équipé de missiles air-sol : c’est celui qui est utilisé au Pakistan.

    - D’ici dix à vingt ans, les « robots tueurs » seront utilisés sur les champs de bataille, dit Alexander Harang. Tobias Malher et Alexander Harang ont participé cette semaine à un séminaire sur les « robots tueurs » à l’institut PRIO à Oslo.

    « Robots militaires » : c’est le nom commun donnés aux armes qui non seulement peuvent tuer à distance - comme les drones d’aujourd’hui - mais aussi prendre la décision lui même de tuer – et de le faire !

    Trois types de Robots :

    Robots téléguidées : Ils sont armés (comme les drones aujourd’hui), mais ce sont des êtres humains qui analysent la situation et décide si l’arme doit être utilisée.

    Robots automatiques : L’ordinateur analyse la situation et les réponses possibles, mais ce sont toujours les êtres humains gens qui décident si l’arme doit être utilisée.

    Robot autonome : L’ordinateur analyse de la situation et les réponses possibles, et décide de lui même si l’arme doit être utilisée. (brrrr....)

    Le journaliste de la NRK décrit l’utilisation du drone de la manière suivante (c’est assez époustouflant) :

    Un drone survole une zone montagneuse au Pakistan et observe ce qui se passe au sol. Les caméras embarquées renvoient les images aux Etats-Unis où des opérateurs les analysent. Les opérateurs voient quatre hommes barbus (sic) avec des fusils sur l’épaule. Les opérateurs décident d’appuyer sur un bouton, une seconde plus tard un missile est tiré, les quatres hommes barbus (sic) sont morts instantanément.

    Ainsi va la vie aujourd’hui au Pakistan, en Afghanistian , au Yémen ,en Somalie et peut-être plus récemment dans le nord du Niger [et du Mali]. Dans les seules zones tribales pakistanaises frontalières de l’Afghanistan, plus de 3 500 personnes ont été tuées dans les attaques de drones depuis une decennie.

    La plupart d’entre eux étaient des militants musulmans (sic), dont certains étaient sur ​​la liste des terroristes établie par la CIA, mais plusieurs centaines d’autres étaient des civils innocents qui se trouvaient au mauvais endroit au mauvais moment.

    Mais dans quelques années, l’opérateur qui se trouve quelque part aux États-Unis sera sans doute superflu. L’image des quatre hommes armés sera envoyé directement au drone. Un ordinateur de bord permettra (au drone) d’analyser la situation à partir d’un ensemble de paramètres, lequel ordinateur prendra ensuite la décision de tuer ou de de laisser ces hommes en vie.

    On est en train de concevoir et programmer des ordinateurs selon le concept "thumbs down" [pouce en bas]. Avec une telle machine, les quatre hommes barbus (sic) sur le terrain seront alors tués sans qu’un être humain n’ait pris la décision de le faire « directement »

    Le drone britannique « Taranis » sera probablement en mesure de fonctionner sans contrôle humain direct. Photo : BAE Systems / AP

    Une campagne contre les « robots tueurs » a débuté à Londres en avril 2013, soutenue par 45 organisations non-gouvernementales dans 20 pays.

    Il existe en fait des versions plus avancées de drones armés – non utilisés, encore en développement – qui sont assimilés aux « robots tueurs ». Tobias Mahler souligne que ce n’est pas nécessairement des armes au sens traditionnel du terme. Pour illustrer son propos, il donne une image :

    Imaginez la porte d’entrée du bâtiment de la NSA aux Etats-Unis. Elle peut-être programmée pour reconnaître les gens à partir de l’analyse de leurs yeux. Cette porte automatique peut aussi être programmée pour claquer dans la gueule de celui qu’elle ne reconnaît pas et éventuellement le tuer ! C’est la programmation qui fait tout, mais le programmeur peut-il tout prévoir ?

    Les États-Unis et Israël sont les pays les plus en pointe dans le développement des « robots tueurs » mais la Russie et la Chine ont probablement des programmes avancés. Il y a de bonnes raisons de croire que l’heure de l’utilisation en réel des « robots tueurs » est beaucoup plus proche qu’on ne le croit.

    Tobias Malher souligne que les militaires développent les « robots tueurs » pour répondre à l’argument suivant :

    Développer des armes autonomes pour éviter au maximum de mettre nos troupes en danger [des guerres sans soldats].

    Et ces mêmes militaires [quand même] de se demander s’il est éthique de développer des armes qui décident toutes seules de tuer ou pas (sic) … !


    L’avion sans pilote X -47B fabriqué par Northrup Grumman sur la base Edwards en Californie sera en mesure d’attaquer des armes sans contrôle humain. Photo : Alan Radecki , Northrup Grumman, marine / AP.

    Le journaliste de la NRK poursuit avec cet encadré :

    « Les robots doivent faire des choix éthiques »

    – Si les « robots tueurs » autonomes doivent être utilisés, ils doivent être programmés pour faire des choix éthiques.
    – C’est aussi des questions auxquelles sont confrontées les développeurs de voitures civiles « auto-conduites »

    – Par exemple, une voiture autonome (auto-conduite) circule avec quatre personnes à bord. Que fera-t-elle si un enfant traverse soudainement la chaussée juste devant elle alors qu’un camion arrive en sens inverse ?

    – Le véhicule devra choisir entre deux options :

    1. Tourner vivement pour éviter l’enfant et donc entrer en collision avec le camion venant en sens inverse, avec de possible graves conséquences pour les quatre personnes se trouvant dans la voiture.

    2. Continuer tout droit et percuter l’enfant, avec comme résultat probable la mort de celui-ci.

    En Norvège, la question des « robots tueurs » est totalement absente du débat politique (les élections parlementaires ont lieu l9 septembre 2013) alors que ce débat a bien eu lieu dans plusieurs autres pays européens. Ça n’a même pas été un enjeu de la campagne alors que la Norvège a un programme militaire de production d’armement (petit, mais qui existe quand même).

    En Allemagne, où l’on vote aussi mi-septembre, Die Linke a fait de la lutte contre les « robots tueurs » un de leurs principaux enjeux de la campagne.

    –----

    Article source sur le site de la NRK

    – Drapsroboter er bare ti til tjue år unna - Verden - NRK Nyheter
    http://www.nrk.no/nyheter/verden/1.11220317

    Han får støtte av Alexander Harang i Kampanjen for å stoppe drapsroboter (Campaign to Stop Killer Robots) CSKR.

    – Vi er ti til tjue år fra å se at drapsrobotene blir tatt i bruk på slagmarken, sier Harang.

    Både Mahler og Harang deltok denne uken på et seminar om drapsroboter på Fredsforskningsinstituttet (PRIO) i Oslo.

    #drones #robots_tueurs #guerre #guerres_sans_soldats

    cc @fil

    • @0gust1 : exactement ce qui m’est venu à l’esprit en lisant cet article. Toute intelligence artificielle dépassant un certain degré d’autonomie devrait obligatoirement voir implémenter les 3 lois à la racine de son programme - ce qui par essence interdirait tout usage militaire. On peut rêver...

    • Il est parfaitement contestable d’imaginer ne serait ce que quelques secondes qu’un ordinateur puisse disposer d’une représentation du monde, en gros d’une conscience, qui puisse le soumettre à quelque chose qui ressemblerait aux lois de la robotique d’Asimov.

      La chose est discutable, certes et j’en connais qui la discutent, mais il faut savoir qu’il existe un point de vue très fort, basé sur l’expérience de la programmation des ordinateurs, et qui affirme avec un grande violence que la connerie des ordinateurs est irrémédiable, définitive, irréparable et absolue.

      Prenons les exemples cités :
      1) l’ordinateur devra avoir une procédure de décision fiable (évidemment) lui permettant d’éviter de (bêtement) suicider 4 personnes pour éviter une poupée gonflable ; et d’ailleurs c’est bien connu les conducteurs de métro sont spécialement entraînés pour faire face à ce type de situation.
      2) Les ordres reçus par un sergent de la légion étrangère en opération, dans la mesure où il sont précisément exprimés, peuvent s’assimiler à un programme (une suite d’instructions).
      On peut faire confiance au sergent en question, alors qu’il dispose d’armes chargées, de faire preuve en toutes circonstance de la plus grande clairvoyance quand à leur utilisation, qu’il obéisse aux ordres, ou pas.

      Franchement je n’ai jamais compris ce fantasme du robot qui deviendrait humain : tout nous montre que c’est l’inverse qui est à l’oeuvre. Gunter Anders, avec le concept de « honte prométhéenne » a décrit le véritable problème avec les robots, et qui est que ce sont les hommes qui sont en train de devenir aussi cons qu’eux !

      http://www.europhilosophie-editions.eu/fr/spip.php?article23

    • Avant même de se poser la question de l’autonomie (future) des #drones_tueurs, on pourrait commencer par celle des conditions de l’utilisation actuelle de ceux téléguidés...

      Ainsi va la vie aujourd’hui au Pakistan, en Afghanistian , au Yémen ,en Somalie et peut-être plus récemment dans le nord du Niger [et du Mali]. Dans les seules zones tribales pakistanaises frontalières de l’Afghanistan, plus de 3 500 personnes ont été tuées dans les attaques de drones depuis une decennie.
      La plupart d’entre eux étaient des militants musulmans (sic), dont certains étaient sur ​​la liste des terroristes établie par la CIA, mais plusieurs centaines d’autres étaient des civils innocents qui se trouvaient au mauvais endroit au mauvais moment.

      #sale_guerre

  • Comment Isaac Asimov voyait 2014 en 1964 ?
    http://www.framablog.org/index.php/post/2013/08/29/asimov-2014

    L’Exposition Universelle de New York de 1964 est consacrée à « La paix par la compréhension » (NdT : Peace Through Understanding). L’aperçu qu’elle donne du monde de demain écarte l’hypothèse d’une guerre nucléaire. Et pourquoi pas ? Si une telle guerre a lieu le futur ne mérite pas d’être évoqué. Laissons donc les missiles sommeiller éternellement dans leurs silos et observons ce qui pourrait advenir d’un monde qui ne serait pas atomisé.

    [...]

    Ces scènes, qui se déroulent en 1900, 1920, 1940 et 1960, montrent les progrès des appareils électriques et les changements qu’ils apportent à la vie quotidienne. J’y ai pris énormément de plaisir et je regrette seulement qu’ils n’en aient pas imaginé de semblables dans le futur. Que sera la vie, par exemple en 2014, dans 50 ans ? À quoi ressemblera l’Exposition Universelle de 2014 ?

    Je ne sais pas, mais je peux essayer de deviner.

    [...]

    Des appareils continueront de soulager l’humanité des travaux fastidieux. Les cuisines seront conçues de manière à préparer des « auto-repas », chauffant l’eau et la transformant en café ; grillant le pain et le bacon ; cuisant, pochant ou brouillant des œufs, etc. Le petit-déjeuner sera « commandé » la veille afin d’être prêt à l’heure spécifiée le lendemain matin. Des repas et dîners entiers, avec des aliments semi-préparés, seront conservés au congélateur jusqu’au moment de leur préparation. Je soupçonne, cependant, que même en 2014, il sera bon d’avoir un petit coin dans la cuisine où des repas plus individuels pourront être préparés à la main, en particulier lorsque l’on reçoit des invités.

    [...]

    En 2014 les robots ne seront ni courants ni très élaborés mais ils existeront. L’exposition IBM n’a pas de robots aujourd’hui mais elle est dédiée aux ordinateurs, qui sont montrés dans toute leur incroyable complexité, notamment dans la tâche de traduction du russe vers l’anglais. Si les machines sont si intelligentes aujourd’hui, qui sait ce qu’elles feront dans 50 ans ? Ce seront des ordinateurs beaucoup plus miniaturisés qu’aujourd’hui, qui serviront de « cerveaux » aux robots.

    [...]

    Les communications se feront par visioconférence et vous pourrez à la fois voir et entendre votre interlocuteur. L’écran, en plus de vous permettre de voir les gens que vous appelez, vous permettra également d’accéder à des documents, de voir des photographies ou de lire des passages de livres. Une constellation de satellites rendra possible les appels directs vers n’importe quel point de la terre, même la station météorologique en Antarctique (visible dans toute sa splendeur glacée sur le stand de General Motors en 64).En 2014, il est fort probable que la population mondiale sera de 6,5 milliards et que les États-Unis compteront 350 millions d’habitants. La zone de Boston à Washington, la plus dense de cette taille sur Terre, sera devenue une mégalopole avec une population de plus de 40 millions d’habitants.

    #prévision #futur #2014 #Asimov