Une expérience secrète menée par des chercheurs utilisant l’intelligence artificielle sur le site Reddit a suscité une vive polémique éthique. Des utilisateurs, qui ont été impliqués sans leur consentement, dénoncent cette manipulation, relançant un débat crucial sur l’éthique des recherches en ligne.
Une expérience d’IA menée à l’insu des utilisateurs
Reddit, plateforme sociale organisée en « subreddits » dédiés à des communautés spécifiques, a vu l’une de ses sections, le subreddit r/ChangeMyView, utilisée comme laboratoire en ligne par des chercheurs de l’Université de Zurich, en Suisse. Ce subreddit invite normalement les membres à débattre d’opinions parfois sensibles.
Les modérateurs du groupe ont récemment révélé que les chercheurs y avaient inséré plus de 1700 commentaires générés par plusieurs modèles d’intelligence artificielle (LLM), sans informer les membres qu’ils n’étaient pas réels. Parmi ces commentaires, certains imitaient des victimes de viol ou prétendaient être des conseillers spécialisés en traumatismes. Une description de la méthode employée indique que les IA ont été programmées en supposant que les utilisateurs avaient donné leur consentement éclairé pour l’utilisation de leurs données, sans se soucier des implications éthiques ou des préoccupations liées à la vie privée.
Des résultats controversés et des réactions mitigées
Un brouillon des résultats de l’étude indique que les commentaires produits par l’IA étaient entre trois et six fois plus persuasifs que ceux postés par des humains, mesuré par la proportion de réponses ayant effectivement fait changer d’avis d’autres utilisateurs. Les auteurs notent que durant toute l’expérience, personne sur r/ChangeMyView n’a suspecté que les messages pouvaient être générés par une IA, ce qui souligne, selon eux, le potentiel d’efficacité d’« armées de bots » alimentées par l’intelligence artificielle, capables de s’intégrer discrètement aux communautés en ligne.
À la suite de la révélation, les modérateurs ont exprimé leur mécontentement auprès de l’Université de Zurich, malgré l’approbation initiale du comité d’éthique de cette institution. Informée des plaintes, l’université a répondu, ce qui a poussé les modérateurs à avertir la communauté de cette manipulation, sans toutefois divulguer les noms des chercheurs impliqués, conformément à leur demande.
Débat éthique et critiques académiques
Plusieurs universitaires ont condamné cette expérience, pointant du doigt le non-respect de l’autonomie des participants. Carissa Véliz, chercheuse à l’Université d’Oxford, critique sévèrement ces méthodes : « Dans une époque où les entreprises technologiques sont justement critiquées pour ne pas respecter l’autonomie des individus, il est d’autant plus important que les chercheurs s’imposent des standards éthiques élevés. Ici, ce n’a pas été le cas. »
Alors que toute recherche impliquant des humains doit être validée par un comité d’éthique universitaire, Véliz remet en question l’approbation donnée par celui de Zurich. Selon elle, « cette étude reposait sur la manipulation et la tromperie de sujets non-consentants, ce qui semble injustifié. L’étude aurait pu être conçue autrement, avec des participants ayant donné leur accord. »
Matt Hodgkinson, membre du comité sur l’éthique de publication, exprime aussi ses doutes : « La tromperie peut être acceptable dans certains cas de recherche, mais ce cas me semble déraisonnable. Ironiquement, ils ont dû mentir à l’IA en affirmant que les participants avaient donné leur consentement – les chatbots ont-ils plus d’éthique que les universités ? »
Réponses officielles et mesures futures
Les chercheurs contactés ont refusé de commenter et ont redirigé les demandes vers le service de presse de l’Université de Zurich. Un porte-parole de l’université a précisé que « les chercheurs sont responsables de la réalisation du projet et de la publication des résultats » et que le comité d’éthique avait souligné que cette expérience serait « exceptionnellement complexe » et que les participants « devaient être informés autant que possible ».
Face à la controverse, l’Université de Zurich annonce vouloir renforcer son processus d’évaluation éthique, notamment en coordonnant avec les communautés en ligne avant la mise en place de futures études expérimentales. Une enquête est en cours, et les chercheurs ont décidé de ne pas publier officiellement les résultats de l’étude, selon le porte-parole qui a refusé de divulguer l’identité des personnes impliquées.