Depuis plusieurs semaines, des vidéos racistes inondent les réseaux sociaux, attirant l’attention et suscitant des inquiétudes croissantes. Toutes ces vidéos ont été générées par intelligence artificielle (IA).
Un phénomène en pleine expansion
L’intelligence artificielle générative, bien qu’innovante, donne lieu à de nombreux abus. Sur des plateformes comme TikTok, une multitude de vidéos à caractère raciste ont émergé, cumulant des millions de vues. Ces vidéos montrent des scénarios choquants, des policiers pourchassant des personnes noires, des Asiatiques cuisinant des chiens, ou encore des Juifs orthodoxes courant après de l’argent, illustrant des stéréotypes racistes répugnants.
Les chiffres parlent d’eux-mêmes : certaines vidéos ont obtenu entre 1,2 et 14,2 millions de vues.
Les conséquences légales pour les créateurs
Pour produire ces contenus, les utilisateurs ont utilisé Veo 3, la dernière version de l’IA générative de Google, qui permet de créer des vidéos, du son et des doublages. Ce phénomène, initialement très présent aux États-Unis, commence à prendre racine en Europe, surtout après que Google a mis à disposition cette technologie sur le continent.
Malgré l’absence de réaction officielle de Google face à ces vidéos, le géant technologique avait promis des garde-fous pour prévenir les dérives potentielles de l’IA. En attendant, les vidéos racistes continuent de circuler, souvent partagées par des comptes secondaires.
Antoine Chéron, avocat spécialisé dans le numérique, a déclaré à Tech&Co que les créateurs de ces vidéos s’exposent à de lourdes sanctions. « Si la personne participe activement et est consciente du caractère raciste de son contenu, ces infractions sont réprimées par la loi, » a-t-il précisé. Le Code pénal français prévoit jusqu’à un an de prison et 45 000 euros d’amende en cas d’infraction.
Les actions des plateformes face à ce fléau
Face à cette situation alarmante, les plateformes sociales intensifient leurs efforts pour modérer ces contenus. TikTok a annoncé avoir supprimé des comptes associés à la création de ces vidéos et prévoit de continuer cette action en fonction des signalements. Cette mesure a été confirmée par Tech&Co.