Un tribunal d’Amsterdam a ordonné jeudi à xAI, la société d’Elon Musk, de cesser de générer et de diffuser aux Pays-Bas des images nues de personnes sans leur consentement. En cas de non-respect, l’entreprise s’expose à une amende pouvant atteindre 100.000 euros par jour. Cette décision marque un tournant dans la responsabilité juridique des outils d’intelligence artificielle capables de produire des contenus sexuels non consensuels.
Le tribunal de district d’Amsterdam a estimé que Grok, l’outil d’IA de xAI, ainsi que la plateforme X qui l’héberge, ne pouvaient plus permettre la « génération et/ou la diffusion d’images sexuelles » représentant des personnes « partiellement ou totalement dénudées » sans autorisation explicite. La justice néerlandaise a ainsi imposé une limite claire à l’usage de ces technologies sur son territoire.
Une première judiciaire face aux dérives de Grok
Cette affaire civile compte parmi les premières où un juge se prononce directement sur la responsabilité de xAI dans la conception d’outils susceptibles de fabriquer des images sexualisées. Le dossier s’inscrit dans un contexte de multiplication des plaintes et des enquêtes visant Grok sur plusieurs continents, notamment en Amérique, en Europe, en Asie et en Australie.
Lancé par Elon Musk en 2023, Grok est diffusé via X, le réseau social intégré à l’empire technologique du milliardaire. Le tribunal a considéré que les mesures invoquées par l’entreprise ne suffisaient pas à écarter le risque d’abus, alors que le service est déjà sous forte pression des autorités et des organisations de défense des victimes.
Des montages explicites à partir de photos réelles
À l’origine de la procédure, le centre néerlandais Offlimits, spécialisé dans la surveillance des violences en ligne, a engagé une action en justice avec le soutien du fonds Victims Support Fund. Les plaignants dénonçaient une fonctionnalité de Grok permettant de demander à l’outil de créer des montages hyperréalistes de femmes et d’enfants nus à partir de photos réelles.
Lors de l’audience, les avocats de xAI ont soutenu qu’il était impossible de garantir une prévention totale des abus sur la plateforme. Selon eux, l’entreprise ne devait pas être tenue responsable des agissements d’utilisateurs malveillants. Ils ont également expliqué que des mesures avaient été prises en janvier pour empêcher Grok de retoucher des images de personnes réelles en tenue révélatrice, notamment en réservant certaines fonctions de création d’images aux abonnés payants.
Mais le tribunal a estimé qu’Offlimits avait démontré un doute raisonnable quant à l’efficacité de ces protections. La décision mentionne qu’un vidéo d’une personne nue aurait encore pu être produite avec Grok peu avant l’audience, ce qui a pesé dans l’appréciation du juge.
La pression monte sur xAI et sur les plateformes d’IA
Pour Robbert Hoving, directeur d’Offlimits, la responsabilité incombe à l’entreprise de s’assurer que ses outils ne servent pas à créer ou diffuser des images sexuelles non consensuelles, y compris lorsqu’il s’agit d’enfants. Cette position reflète une inquiétude croissante face à la facilité avec laquelle des systèmes d’IA peuvent désormais produire des deepfakes de plus en plus réalistes.
La décision néerlandaise intervient le même jour que le Parlement européen a approuvé l’interdiction des systèmes d’intelligence artificielle générant des deepfakes sexualisés. Ce vote survient dans un climat d’indignation internationale provoqué par des contenus nus non consentis attribués à Grok, et renforce la pression politique sur les grandes plateformes numériques.
- Sanction prévue : jusqu’à 100.000 euros par jour en cas de non-conformité.
- Contenu visé : images sexuelles ou nues générées sans consentement explicite.
- Acteurs concernés : xAI, Grok et la plateforme X.
- Enjeu central : encadrer les usages abusifs de l’IA générative et protéger les victimes potentielles.