Amazon s’associe à la C2PA pour lutter contre les deepfakes
Avec la montée en puissance des deepfakes et des contenus synthétiques, l’importance de certifier l’origine des informations numériques n’a jamais été aussi cruciale. Des organisations travaillent activement sur le développement d’un filigrane numérique, un outil visant à identifier l’origine du contenu. À ce jour, aucune solution n’a véritablement fait ses preuves, mais la Coalition for Content Provenance and Authenticity (C2PA) se renforce avec l’ajout d’Amazon à son comité directeur.
Un partenariat stratégique pour la transparence numérique
La semaine dernière, la C2PA a officialisé l’intégration d’Amazon parmi ses membres. Faisant partie de la famille de la Fondation Linux, la C2PA se positionne comme un organisme de normalisation technique qui vise à contrer la propagation d’informations trompeuses en développant des normes pour certifier la provenance des contenus numériques. L’entreprise encourage ainsi une meilleure transparence autour de l’origine des contenus générés par l’intelligence artificielle.
Des certificats de contenu pour garantir l’authenticité
Adobe, l’un des cofondateurs de la C2PA, a œuvré sur la mise en place des certificats de contenu, connus sous le nom de Content Credentials. Ces certificats permettent aux utilisateurs de connaître la manière dont un élément de contenu a été créé ou modifié. Dans le cadre de ce partenariat, Amazon s’engage à associer ces certificats au contenu généré par ses outils d’IA, notamment les Titan Image Generator v1 et v2.
Amélioration de la vérification des vidéos
Afin d’élargir cette initiative, Amazon intégrera également un outil de vérification à AWS Elemental MediaConvert, un service dédié au traitement vidéo pour des diffusions multi-écrans. Cela permettra aux médias et diffuseurs d’événements sportifs de vérifier l’origine des vidéos avant leur redistribution, renforçant ainsi la fiabilité des informations numériques diffusées.
Un filigrane invisible pour limiter la désinformation
« Chaque image produite par Amazon Titan inclut par défaut un filigrane invisible », a déclaré Vasi Philomin, vice-président de Gen AI chez AWS. Ce mécanisme, selon lui, est essentiel pour atténuer la diffusion de fausses informations. L’adhésion à la C2PA et l’adoption des Content Credentials sont considérées comme des étapes majeures vers une innovation responsable en matière d’IA.
Une réponse aux inquiétudes de l’industrie créative
Cependant, ce nouvel ensemble d’alliances soulève des préoccupations. En juillet dernier, le Numbers Protocol et plusieurs organisations de blockchain ont fondé la Creative Origin Alliance, une alternative démocratique à la C2PA. Cette initiative vise à donner la parole aux créateurs et à garantir un cadre transparent et éthique face aux géants technologiques.
Suite à des changements dans les conditions d’utilisation d’Adobe, qui pourraient permettre d’utiliser le travail des utilisateurs pour former ses outils d’IA, les membres de la Creative Origin Alliance souhaitent faire entendre leurs voix et défendre des valeurs comme la protection de la vie privée et le soutien aux technologies libres.
Le paysage numérique évolue rapidement, et avec des acteurs tels qu’Amazon s’engageant dans la certification de contenu, il est crucial de suivre ces développements pour comprendre l’impact sur l’industrie technologique et créative.