Google et la norme C2PA : Vers plus de transparence et de sécurité
La question de la transparence et de la sécurité est souvent soulevée lorsqu’il s’agit d’intelligence artificielle (IA). Pour répondre à ces préoccupations, Google a contribué à l’élaboration d’une seconde version de la norme « Content Credentials » et prévoit de l’incorporer dans plusieurs de ses produits, y compris les services de recherche et de publicité.
Une avancée significative vers la transparence
Google s’engage activement pour améliorer la transparence des contenus générés par l’IA. La société met en œuvre la « Coalition for Content Provenance and Authenticity » (C2PA), qui regroupe divers acteurs technologiques afin de créer un marqueur invisible permettant d’identifier la provenance des contenus. Cette initiative, lancée en 2021 par Adobe, Arm, BBC, Intel, Microsoft et Truepic, a débouché sur le développement de normes, dont celle des Content Credentials.
Récemment, Meta, OpenAI et Google ont rejoint la C2PA, promettant ainsi d’avancer collectivement vers une meilleure vérification des origines des contenus.
Une nouvelle version de la norme Content Credentials
Google a élaboré une seconde version de la norme Content Credentials, désignée comme _ »plus sécurisée contre un éventail plus large d’attaques de falsification grâce à des exigences techniques renforcées. »_. L’objectif principal est de garantir que les données jointes aux contenus demeurent authentiques et non manipulées.
Cette norme propose d’intégrer un marqueur invisible au sein des métadonnées d’un contenu. Concernant les images et vidéos, ces métadonnées peuvent inclure le nom de l’auteur, la date de création, la crédibilité de la source, ainsi que la méthode de création (manuelle ou assistée par IA).
Intégration dans les produits Google
Dans les mois à venir, Google prévoit d’incorporer cette nouvelle version de la norme Content Credentials dans plusieurs de ses services phares, notamment dans la Recherche et la Publicité. Les utilisateurs pourront, par exemple, consulter les métadonnées C2PA d’une image via la fonction « À propos de cette image », leur fournissant ainsi un aperçu sur l’origine du contenu.
De plus, Google explore des moyens de partager ces informations C2PA sur YouTube lorsque le contenu est capturé avec une caméra. Si les métadonnées indiquent qu’une image provient d’un modèle d’appareil photo spécifique, la liste de confiance établie par la C2PA peut valider cette information.
Des efforts continus pour une meilleure sécurité
Parallèlement, Google continue d’introduire SynthID, un « tatouage numérique » développé par l’équipe DeepMind, dans des outils d’IA de pointe pour la création de contenu, que ce soit pour le texte, l’audio, l’image ou la vidéo. La firme poursuit également ses engagements volontaires pris avec les autorités américaines, en matière de régulation concernant l’IA.
Les autres entreprises face à la transparence
Il est intéressant de noter que d’autres entreprises, qui avaient auparavant pris des engagements similaires, montrent une certaine réticence à dévoiler leurs outils de transparence. OpenAI, par exemple, a développé un système de « tatouage numérique » pour identifier le texte généré, mais a choisi de ne pas le rendre disponible, jugeant que cela pourrait être contourné.
Cette approche prudente, révélée récemment par le _Wall Street Journal_, témoigne de la complexité de la situation. OpenAI admet que son impact sur l’écosystème va au-delà de leurs seuls intérêts.
En résumé
Avec ces nouvelles initiatives, Google renforce son engagement en faveur de la transparence et de la sécurité dans le domaine des contenus générés par l’IA, positionnant ainsi la norme C2PA comme un élément central de sa stratégie.