OpenAI lance un outil de clonage vocal jugé trop risqué pour le public
OpenAI a dévoilé un outil de clonage vocal capable de reproduire la voix d’une personne, mais retarde sa sortie publique en raison de craintes liées à un éventuel mauvais usage en cette année électorale clé.
Engine vocal peut reproduire la voix d’une personne
Selon un article de blog d’OpenAI présentant l’outil, Voice Engine peut reproduire la voix d’une personne à partir d’un échantillon audio de 15 secondes.
Approche prudente de la technologie par le créateur de ChatGPT
Cependant, le créateur de ChatGPT adopte « une approche prudente et éclairée » de la technologie et espère entamer un dialogue sur « le déploiement responsable des voix synthétiques », a déclaré l’entreprise dans l’article de blog publié vendredi.
Engagement envers la responsabilité et le dialogue
« Nous reconnaissons que la génération de discours qui ressemble à celui des personnes comporte des risques sérieux, particulièrement préoccupants en année électorale », a déclaré la start-up basée à San Francisco.
« Nous collaborons avec des partenaires nationaux et internationaux issus du gouvernement, des médias, du divertissement, de l’éducation, de la société civile et au-delà pour nous assurer d’incorporer leurs retours dans notre développement. »
Prise de décision informée et mesures de sécurité
OpenAI a indiqué qu’elle prendrait « une décision plus éclairée » concernant le déploiement de la technologie à grande échelle en se basant sur des tests et un débat public.
L’entreprise a ajouté qu’elle estime que la technologie ne devrait être déployée qu’avec des mesures garantissant que « le locuteur original ajoute délibérément sa voix au service » et empêchant la « création de voix trop similaires à celles de personnalités éminentes ».
Les préoccupations liées à la mauvaise utilisation de l’IA en période électorale
La mauvaise utilisation de l’IA est devenue une préoccupation majeure à l’approche des élections cette année dans des pays représentant environ la moitié de la population mondiale.
Les électeurs de plus de 80 pays, dont le Mexique, l’Afrique du Sud et les États-Unis, se rendront aux urnes en 2024, cette année étant qualifiée de plus grande année électorale de l’histoire.
L’influence de l’IA sur les électeurs
L’influence de l’IA sur les électeurs a déjà fait l’objet d’un examen attentif lors de plusieurs élections.
L’ancien Premier ministre pakistanais, Imran Khan, actuellement en prison, a utilisé des discours générés par IA pour mobiliser ses partisans dans la perspective des élections parlementaires du pays en février.
En janvier, un opérateur politique du candidat à la présidence des États-Unis peu probable, Dean Phillips, a diffusé un appel téléphonique automatisé imitant le président Joe Biden, exhortant les électeurs à ne pas voter lors des primaires du Parti démocrate du New Hampshire.
Mesures de sécurité mises en place par OpenAI
OpenAI a mis en place plusieurs mesures de sécurité pour ses partenaires testant Voice Engine, « y compris le tatouage numérique pour retracer l’origine de tout audio généré par Voice Engine, ainsi qu’une surveillance proactive de son utilisation ».
Conclusion
La technologie du clonage vocal suscite des inquiétudes légitimes quant à son potentiel d’abus, notamment en période électorale. La prudence, la responsabilité et le dialogue ouvert sont essentiels pour garantir que de telles innovations soient utilisées de manière éthique et sécurisée.