Le gouverneur de Californie signe des lois contre les risques liés à l’Intelligence Artificielle
En septembre 2024, la Californie a connu un débat intense sur la régulation de l’intelligence artificielle (IA). Le gouverneur Gavin Newsom a récemment promulgué neuf projets de loi visant à encadrer les contenus générés par l’IA et à lutter contre les risques associés, notamment les « deepfakes ». Cette législation intervient après l’adoption d’un projet de loi controversé par l’Assemblée législative à la fin du mois d’août.
Des mesures pour protéger l’industrie du divertissement
Le projet de loi intitulé « Safe and Secure Innovation for Frontier Artificial Intelligence Models Act » impose des mesures strictes aux entreprises utilisant des modèles d’IA avancés. Celles-ci devront réaliser des tests de sécurité, mettre en place des mesures de protection et se soumettre à des audits par des tiers. Plus de 125 acteurs de l’industrie du divertissement, dont des réalisateurs et des artistes, ont exprimé leur soutien à ce projet de loi.
En revanche, des géants de la tech tels que Google, OpenAI et Meta se sont opposés à ces mesures, arguant qu’elles pourraient freiner l’innovation.
Détails des projets de loi signés
Parmi les neuf projets de loi signés, deux ciblent spécifiquement la protection de l’image numérique des acteurs et interprètes, qu’ils soient vivants ou décédés :
- L’AB 2602 exige des contrats pour toute utilisation d’imitations profondes de voix ou d’image générées par l’IA.
- L’AB 1836 interdit l’utilisation commerciale de telles imitations sans le consentement des ayants droit.
Trois autres textes visent à lutter contre l’abus des contenus générés par l’IA, notamment les deepfakes sexuels :
- Le SB 926 criminalise la création et la distribution d’images sexuellement explicites créées à partir de l’IA pour causer une détresse émotionnelle.
- Le SB 981 impose aux plateformes de médias sociaux de permettre le signalement de deepfakes.
- Le SB 942 exige que les systèmes d’IA insèrent des filigranes invisibles sur le contenu généré.
Enfin, quatre projets de loi concernent l’usage de deepfakes dans les campagnes électorales, garantissant ainsi l’intégrité du processus démocratique.
Réactions et implications
Le gouverneur Gavin Newsom a souligné l’importance de ces mesures pour protéger les travailleurs et maintenir la confiance du public dans les médias numériques. Il a également insisté sur la nécessité de prévenir l’exploitation abusive des outils d’IA dans notre société.
En parallèle, certains experts estiment que ces réglementations risquent de compliquer le développement de nouvelles technologies en Californie. Jason Kwon, directeur chez OpenAI, a exprimé ses inquiétudes sur l’impact de ces lois sur le statut de la Californie en tant que leader mondial de l’intelligence artificielle.
Alors que la discussion sur l’intelligence artificielle et ses implications continue d’évoluer, ces projets de loi représentent une étape significative vers une réglementation plus stricte des technologies émergentes dans l’État de Californie.