Comment rendre les IA « humbles » pour qu’elles restent sous contrôle
▻https://usbeketrica.com/article/comment-rendre-les-ia-humbles-pour-eviter-qu-elles-ne-detruisent-l-huma
Un addenda judicieux aux trois lois de la robotique d’Isaac Asimov.
En guise d’alternative au système actuel, Russell élabore ainsi le concept de « machines bénéfiques », qu’il définit comme étant certes « intelligentes » mais qui devraient surtout remplir uniquement « nos objectifs » et non « leurs objectifs propres ». La différence avec ce qui existe actuellement paraît subtile, mais l’auteur expose trois principes pour l’établir : « le seul objectif de la machine est de maximiser la réalisation des préférences humaines » ; « la machine est initialement incertaine à propos de ce que sont ces préférences » ; « la source ultime d’information pour définir ces préférences est le comportement humain. »