Le #tribunal régional de Munich a jugé que Google était responsable des propos tenus par son intelligence artificielle (IA) dans les résultats de recherche, après que celle-ci a publié des propos faux au sujet de deux éditeurs munichois. Reporters sans frontières (RSF) salue cette décision inédite au monde, de laquelle Google a fait appel. C’est un signal fort : la cour de justice rappelle à la plateforme sa #responsabilité dans la construction du nouveau monde informationnel.
Le #principe_d'irresponsabilité des outils d’IA générative commence à se fissurer. Le tribunal de Munich a rendu une décision forte : oui, Google peut être tenu responsable des résumés produits par #AI_Overviews, la fonctionnalité de résumé par IA des résultats de son #moteur_de_recherche. Une première mondiale.
L’IA de Google avait associé les plaignants, deux éditeurs munichois de livres et de magazines, anonymisés dans la décision finale, à des pratiques commerciales douteuses et à des pratiques commerciales interdites, comme le recours à des #pièges à abonnement, c’est-à-dire l’incitation à recourir à des abonnements payants à l’insu de ses clients. Or, selon la cour, les liens affichés par Google ne permettaient pas d’étayer les propos formulés par l’AI Overview.
“Ce que dit la cour est limpide : quand un système d’IA présente comme des faits établis des accusations qu’il ne peut pas prouver, ce n’est pas un simple ‘bug’. C’est un contenu produit et diffusé par Google, sous sa responsabilité. C’est exactement le principe que nous défendons depuis plusieurs années à RSF : les concepteurs d’IA doivent être tenus responsables des torts causés par leurs systèmes à l’intégrité de l’information et s’assurer au mieux de leur fiabilité avant de les déployer." (Vincent Berthier, Responsable du bureau technologies et journalisme de RSF)
La #liberté_d'expression ne protège pas de tout
Fait notable, le tribunal a pris le temps d’étudier la liberté d’expression dont Google pouvait en principe se prévaloir en pareilles circonstances. Sa conclusion est que la liberté d’expression a un poids limité dans ce dossier : l’énoncé litigieux est principalement le résultat d’un #algorithme et d’une #activité_commerciale, non l’expression d’une conviction humaine. Puisque les propos ont été générés de manière autonome par une IA intégrée au service de Google, ils sont plus qu’une simple recherche de termes affichée sous la forme d’une série de liens. Ils forment une réponse propre.
Le tribunal a également rejeté l’idée que les internautes seraient en mesure de vérifier eux-mêmes l’exactitude des résumés en consultant les sources citées : ces résumés générés par IA se présentent comme des #affirmations, ce qui rapproche leur statut de celui d’un titre lu par une lecteur pressé, par exemple, dont un média est responsable même si le public ne prend pas la peine de vérifier ces affirmations en cliquant sur un lien.
Construire le cadre de responsabilité
Google a annoncé faire appel et la décision pourrait être revue. D’autre part, son champ d’application reste limité au cas particulier qu’elle traite. Elle porte néanmoins en ses germes un besoin pressant : celui d’édicter clairement qui parle quand une IA génère du texte, particulièrement dans un contexte d’information, et donc qui est responsable de ses dysfonctionnements, ainsi que les mesures qu’il convient de prendre pour en atténuer les risques.
En Europe, si le le règlement sur les services numériques, le DSA, impose aux très grandes plateformes d’évaluer leurs risques systémiques et si le règlement sur l’intelligence artificielle, l’AI Act, prévoit des obligations de transparence pour les contenus générés par IA, ce qui est le cas pour AI Overview, l’état actuel du droit européen est insuffisant. Aucun de ces textes n’établit de cadre de responsabilité adapté au cas spécifique des résumés informationnels produits par les systèmes d’IA générative dans les moteurs de recherche.
