New AI fake text generator may be too dangerous to release, say creators | Technology

/elon-musk-backed-ai-writes-convincing-n

  • https://www.theguardian.com/technology/2019/feb/14/elon-musk-backed-ai-writes-convincing-news-fiction

    Feed it the opening line of George Orwell’s Nineteen Eighty-Four – “It was a bright cold day in April, and the clocks were striking thirteen” – and the system recognises the vaguely futuristic tone and the novelistic style, and continues with:

    “I was in my car on my way to a new job in Seattle. I put the gas in, put the key in, and then I let it run. I just imagined what the day would be like. A hundred years from now. In 2045, I was a teacher in some school in a poor part of rural China. I started with Chinese history and history of science.”

    Évidemment sur le sujet, mon niveau de méfiance est à son plus haut réglage possible, il n’empêche, c’est assez glaçant quand on y pense ces histoires d’intelligence artificielle qui écrivent leurs propres fictions. J’avais noté un de mes rêves sur un sujet voisin, miracle de la recherche argumentaire en informatique, je viens de le retrouver en un très bref instant :

    Nouveau fichier. Nouveau projet. Titre du projet : Films. Diverses informations de fi-chier, taille de l’image, format de compression, format de compression du son, extension de fichier, emplacement de l’espace-disque nécessaire au calcul d’export du montage final, emplacement de sauvegarde, quelques métadonnées et, in fine, synopsis du film : une personne écrit un film en utilisant les fonctionnalités, désormais universellement accessibles, de construction d’un film, de son récit et de ses images et du son au travers d’un logiciel qui permet, depuis quelques temps, de créer, plan par plan, le film en question ― le logiciel a connu de nombreuses versions antérieures, peu connues du grand public, et qui, au contraire, servaient beaucoup dans l’industrie cinématographique, notamment les films d’animation, mais aussi les films dans lesquels les images de synthèse ont la part belle, et puis cet éditeur du monde libre a produit une première version préhensible par les utilisateurs et utilisatrices lambda, immédiatement copiée et dupliquée par des sociétés propriétaires qui l’exploitent et la verrouillent dorénavant pour les sociétés de production et, pour le grand public, dans une version légère à la qualité de production d’images légèrement moindre, qui ne permet pas, surtout pas, la projection sur des écrans de cinéma, des écrans de grande taille. La nature du projet de film qui commence sous nos yeux est évidemment récursive, la narratrice par la voix et du regard se décrit elle-même dans son atelier en train de créer son film, au travers duquel elle tente d’anticiper un monde où de telles possibilités cinématographiques seront bientôt automatisées et il suffira, à peu de choses près, de donner quelques indications générales d’ambiance et de scénario au programme, logiciel, qui, après une première passe à mouliner, proposera une ma-quette un peu dégrossie qu’il sera ensuite loisible d’affiner, ou pas ― rapidement les éditeurs de ce type de logiciels vont se rendre compte que l’essentiel de la communauté des users se contente du premier jet et des réglages par défaut, et seuls quelques cinéphiles, généralement nés à la fin du XXème siècle, s’évertuent à explorer, malgré tout, tels des professionnels finale-ment, les possibilités d’affiner à la fois le montage, l’éclairage, les scènes, les plans, le jeu des acteurs et des actrices ― avant qu’une nouvelle génération de programmes ne permette, tout simplement, de charger un script ― même une ébauche, mal dégauchie et au niveau de langage hésitant ― et de laisser assez de temps au programme pour le mettre en scène, le filmer et le monter et de laisser tellement peu aux éventuelles corrections et ajouts plus humains. Naturellement tout un chacun devenant cinéaste, cela débouche sur une société de fictions qui seront de plus en plus fréquemment générées en Intelligence Artificielle et les derniers êtres humains ― on ne remplace désormais qu’occasionnellement les humanoïdes ― ne serviront plus qu’à regarder de telles fictions, et à répondre à des questionnaires de satisfaction ― sur une échelle de un à dix, avez-vous trouvé les personnages de notre film attachants ? vous ont-ils paru crédibles ? avez-vous aimé la résolution de l’intrigue ? que pensez-vous des décors et de la qualité des images ? ― de telle sorte que, sans cesse, le scénario d’une telle fin de l’humanité ― incroyable à quel point sont nombreuses les fictions et les récits qui mettent en jeu une manière de fin de l’humanité, et la disparition progressive des fictions, qui, au contraire, anticipent la fin du monde ―, au profit de son extension, l’Intelligence Artificielle, soit « humainement » ― dit-on, « entre guillemets », dans le milieu de la programmation ― perfectionné. Dans ce film le ou la scénariste tentera quelques subversions de fonctionnement dans ces programmes cinématographiques comme le chargement de toutes sortes de textes qui ne sont pas stricto sensu des scripts, certes des romans fameux, Madame Bovary ― et en la matière le plus rudimentaire des programmes ne pourrait pas faire pire que Chabrol ―, mais aussi les Saisons de Maurice Pons, mais parfois, aussi, des essais philosophiques ― le Gai-savoir de Nietzsche et la Mort de Vladimir Jankélévitch ― et de la poésie ― Le Spleen de Paris mais aussi des films-éclairs, tant ils sont courts, d’après des haïkus ―, créneau de création qui sera très à la mode, surtout les films-éclairs, un temps, dans le monde de l’art contemporain, désormais seulement virtuel ― démarche artistique qui sera cependant rapidement jugée non autorisée et non con-forme, d’autant que la simplicité, en apparences seulement, des haïkus avait tendance à faire bugger le programme. Tout notre film montre la construction du récit depuis l’atelier de cette narratrice dont on finit par se demander, à la fin, s’il ne s’agit pas, évidemment, d’un rêve. [C’est quand même hyper pratique quand mon inconscient fait tout le boulot et qu’il n’y a plus qu’à prendre en notes ses constructions !][En revanche, au train où vont les choses dans le monde de l’édition, il n’est pas impossible que ce qui paraît comme un scénario de science-fiction crédible ― en tant que science-fiction ( en 2017 ― fin 2017), et qui sera publié je ne sais quand donc, dans les années 20 ? ne devienne en fait une sorte de Steampunk des années 10, comme on dit désormais dans les années 30 et qu’on commençait déjà à dire à la fin des an-nées 20.][Les folles années 20.]