« Nul n'a besoin de l'IA pour effectuer des recherches en ligne », selon ce que suggère une décision d'un tribunal contre Google tenu responsable des fausses réponses produites dans ses résumés générés par IA

« Nul n'a besoin de l'IA pour effectuer des recherches en ligne », selon ce que suggère une décision d’un tribunal contre Google tenu responsable des fausses réponses produites dans ses résumés générés par IA

Une décision rendue par un tribunal allemand est susceptible d’avoir des répercussions sur tous les moteurs de recherche et chatbots basés sur l’IA , connus pour mal paraphraser les liens sources. Elle établit la responsabilité de Google pour les fausses déclarations contenues dans ses « AI Overviews » et ramène la question de la comparaison entre les moteurs de recherche dits classiques et ceux animés par l’intelligence artificielle sur la table.


Cette décision de justice s’appuie entre autres sur une affaire dans laquelle deux éditeurs ont constaté que les résumés générés par l'IA de Google les associaient à tort à des escroqueries et à d'autres pratiques commerciales douteuses.

Cette décision s’appuie entre autres sur une affaire dans laquelle deux éditeurs ont constaté que les résumés générés par l'IA de Google les associaient à tort à des escroqueries et à d'autres pratiques commerciales douteuses (un cas de diffamation similaire à celui d’un violoniste canadien qu’un résumé de l’IA de Google a présenté à tort comme un délinquant sexuel). Après avoir diffamé ces éditeurs en affirmant de manière catégorique que « oui, [cette entreprise] est connue pour ses pratiques commerciales douteuses et est souvent perçue comme une arnaque », Google n'a pas corrigé ces informations trompeuses, même après l’envoi par les éditeurs d’une mise en demeure plus tôt cette année.

Google invoque les arguments habituels pour se soustraire à toute responsabilité quant aux fausses déclarations contenues dans les « AI Overviews ». Le géant de la recherche en ligne affirme notamment que la plupart des utilisateurs comprennent que les résultats générés par l’IA ne sont pas toujours exacts et doivent être vérifiés.

Néanmoins, le tribunal a estimé que, à contrario des moteurs de recherche traditionnels qui se contentent de présenter des listes de liens vers des déclarations de tiers, l’outil de Google formule des « déclarations indépendantes, nouvelles et substantielles » fondées sur sa propre interprétation erronée des liens présents sur Internet.

C'est un problème, selon ce qui ressort de la décision de justice, car si les éditeurs ont pu intenter des poursuites pour empêcher des tiers de publier des déclarations diffamatoires apparaissant dans les résultats de recherche Google, seul Google peut corriger l'algorithme sous-jacent et les résultats affichés dans les « AI Overviews ». Et comme, du moins au départ, l'entreprise ne l'a pas fait, elle « doit donc être tenue pour responsable », a statué le tribunal. L’argumentaire de Google a été jugé particulièrement faible, puisque l’aperçu généré par l’IA dans cette affaire « contient des déclarations qui n’apparaissent absolument pas dans les résultats de recherche ».

La décision du tribunal — qui ordonne une injonction provisoire interdisant à Google de diffuser ces fausses allégations dans de futurs « AI Overviews » — est susceptible d’avoir des répercussions mondiales dans la filière des moteurs de recherche animés par l’intelligence artificielle.


« Nul n'a besoin de l'IA pour effectuer des recherches en ligne », selon ce que suggère la décision de la Cour régionale de justice de Munich

Historiquement, tout contenu potentiellement préjudiciable mis en avant par les moteurs de recherche a été protégé contre toute responsabilité directe, car cette mise en avant était considérée comme largement inévitable lorsqu’il s’agissait d’aider les utilisateurs à s’y retrouver dans l’immense masse d’informations disponibles en ligne.

Mais le tribunal allemand a souligné que les moteurs de recherche basés sur l'IA ne bénéficient pas de ces mêmes protections, car les résumés générés par l'IA ne fournissent qu'« une fonction supplémentaire — une fonction sans laquelle l'utilisation du moteur de recherche resterait (et reste) possible, et sans laquelle les utilisateurs sont parfaitement capables de trouver des résultats au milieu du « flot de données ».

En d’autres termes, personne n’a besoin de l’IA pour effectuer des recherches sur Internet ; les entreprises spécialisées dans l’IA ne peuvent donc pas simplement laisser leurs outils attribuer de fausses allégations à des sources factices sans en assumer la responsabilité.


Google a supprimé certains de ses résumés générés par IA après avoir mis en danger la santé des utilisateurs

Google Search a ajouté la fonction « AI Overviews » (« aperçus de l'IA ») le 14 mai 2024. Il s'agit de résumés concis générés par l'IA et qui apparaissent directement sur les pages de résultats de recherche de Google. Cette fonction est conçue pour aider les internautes à comprendre rapidement un sujet en combinant des informations provenant de différentes sources, dont les pages Web de résultats de recherche et la base de connaissances de Google.

Les résumés sont placés en haut de la page des résultats de recherche, et au-dessus des résultats rédigés par des humains. Peu après son lancement, les utilisateurs ont commencé à partager sur les réseaux sociaux les captures d'écran des réponses les plus farfelues générées par cette fonctionnalité.

Dans un cas, l'IA de Google a dit à un utilisateur de mettre de la colle sur sa pizza afin de faire adhérer le fromage. Elle a aussi conseillé aux utilisateurs de manger trois cailloux par jour, et s'est trompée en recommandant des champions vénéneux. Ces gaffes répétées ont soulevé des préoccupations concernant la sécurité de cette fonctionnalité et l’opportunité de la maintenir. Google a tout de même poursuivi le déploiement à l'échelle mondiale.

Une enquête parue sur developpez.com en début d’année révèle que les aperçus fournis par l'IA contenaient des informations inexactes et erronées lorsqu'ils étaient interrogés sur des analyses sanguines. Google insiste sur le fait que les aperçus générés par son IA sont « utiles » et « fiables ». Mais le rapport de l'étude indique que certains de ces résumés fournissaient des informations de santé inexactes, exposant la santé des utilisateurs à de nombreux risques.

Dans un cas qualifié de « dangereux » et « alarmant » par les experts, l'IA de Google a fourni des informations erronées sur des tests cruciaux de la fonction hépatique, pouvant amener des personnes atteintes d'une maladie grave du foie à penser à tort qu'elles étaient en bonne santé.

En tapant « quelle est la fourchette normale pour les tests sanguins du foie », l'équipe a constaté que le moteur de recherche fournissait une multitude de chiffres, sans contexte et sans tenir compte de la nationalité, du sexe, de l'origine ethnique ou de l'âge des patients. Selon les experts, ce que l'IA de Google considérait comme normal pouvait différer considérablement de ce qui était réellement considéré comme normal dans les pratiques médicales.

Les résumés pouvaient amener des patients gravement malades à penser à tort que leurs résultats d'examens étaient normaux et à ne pas se présenter aux rendez-vous médicaux de suivi. À l'issue de l'enquête, le géant de la recherche a supprimé les aperçus générés par l'IA pour les termes de recherche « quelle est la fourchette normale pour les tests sanguins hépatiques » et « quelle est la fourchette normale pour les tests de la fonction hépatique ».

Un test de la fonction hépatique (liver function test - LFT) est un ensemble de différents tests sanguins. Comprendre les résultats et savoir quoi faire ensuite est complexe et implique bien plus que la simple comparaison d'une série de chiffres. Mais selon le rapport indique, les aperçus de l'IA présentent une liste de tests en gras, ce qui fait que les lecteurs peuvent facilement oublier que ces chiffres ne sont peut-être même pas les bons pour leur test.


Conclusion

En mai 2024, Google avait pris des mesures rapides pour supprimer les résumés erronés fournis par l'IA de son moteur de recherche. Des captures d'écran partagées sur les médias sociaux montraient que l'IA de Google fournissait parfois des réponses épouvantables aux utilisateurs, voire dangereuses. Il s'avère que l'IA de Google traitait le site satirique The Onion comme une source crédible et l'exploitait sans cesse pour formuler ses réponses.

Victor Tangermann, rédacteur en chef du site Web technologique Futurism, a déclaré que les résultats de l'enquête de The Guardian montrent que « Google a encore beaucoup de travail à faire pour s'assurer que son outil d'IA ne diffuse pas de fausses informations dangereuses sur la santé ». Chez Google, on reste néanmoins d’avis que l’IA est l’avenir de la recherche en ligne.

Source : Decision de justice (pièce jointe)

Et vous ?

Que pensez-vous de cette décision ? Quel impact entrevoyez-vous sur la filière des moteurs de recherche animés par l’intelligence artificielle ? Partagez-vous l’avis selon lequel elle devrait être étendue à d’autres domaines d’application de l’intelligence artificielle que la recherche en ligne ?
Moteurs de recherche en ligne classique ou animés par l'intelligence artificielle : De quel bord êtes-vous ? Partagez votre expérience.
Partagez-vous l'avis de Google selon lequel l"intelligence artificielle est l'avenir de la filière de la recherche en ligne ?