Un an après l’enquête d’Al Jazeera, plainte en Autriche contre Chat GPT
La société autrichienne « NOYB », qui défend la protection de la vie privée, a déposé une plainte en Autriche contre le célèbre programme d’intelligence artificielle « Chat GPT », selon l’Agence France-Presse.
L’association, dont le nom est un acronyme pour « None Of Your Business » en anglais, a déclaré que cet outil « fabrique des réponses ». Par exemple, lorsque Chat GPT a été interrogé sur la date de naissance du fondateur de l’association, Max Schrems, le programme a fourni des informations erronées au lieu de déclarer qu’il ne connaissait pas la réponse.
La avocate Martine de Graf a déclaré que « si un programme n’est pas en mesure de fournir des résultats corrects et transparents, il ne peut pas être utilisé pour générer des données sur les individus », ajoutant que « la technologie doit se conformer à la loi, et non l’inverse ».
NOYB a souligné que les performances du programme sont simplement inacceptables, rappelant que le règlement général sur la protection des données (RGPD) de l’Union européenne exige la précision des outils technologiques.
Comme la société « Open AI » a refusé de corriger ou de supprimer l’erreur signalée par la partie plaignante, affirmant que c’était impossible, il est apparu que l’oubli par l’intelligence artificielle de ce qu’elle a appris constituait en réalité un problème majeur.
La société n’a pas répondu à la demande de NOYB pour obtenir ses données et les sources d’informations, ce qui constitue également une violation de la loi.
Dans sa plainte, NOYB a demandé à l’autorité autrichienne de protection des données d’ouvrir une enquête et d’imposer une amende à la société « Open AI ».
L’Al Jazeera, la première victime
Il y a plus d’un an, l’équipe technologique d’Al Jazeera a réalisé une enquête sur la création de faux liens par « Chat GPT » prétendument utilisés comme sources pour générer des articles.
Le rapport indiquait que le programme d’intelligence artificielle n’avait pas seulement créé de faux liens, mais avait nié qu’ils étaient falsifiés et prétendait qu’ils étaient authentiques.
Le site a contacté « Open AI » concernant cet incident, mais Al Jazeera n’a pas reçu de réponse à ses questions, qui incluaient :
- Les sources sur lesquelles « Chat GPT » s’est appuyé pour rédiger l’article, qui les vérifie et comment est vérifiée leur exactitude ?
- Le processus de présentation des sources et comment le robot a pu générer de fausses sources ?
- Comment le robot génère-t-il des réponses qui se dégagent de toute responsabilité dans la génération de liens lorsqu’on lui pose directement des questions à ce sujet, et comment produit-il des réponses attribuées à des changements de politiques de publication ou à la suppression de contenu du site ?
- Le système opère-t-il dans l’investigation et la réponse aux questions des utilisateurs ? Malgré sa claire incapacité à donner une réponse sur pourquoi tous ces liens ne fonctionnent pas, il insiste sur le fait que l’erreur ne vient pas de lui.
Les sociétés de développement de l’intelligence artificielle rappellent que jusqu’à présent, il n’est pas judicieux de se fier énormément aux contenus générés par l’intelligence artificielle, et que les « hallucinations » sont toujours présentes dans cette technologie. Mais comme l’a souligné de Graf, « si un programme n’est pas en mesure de fournir des résultats corrects et transparents, il ne peut pas être utilisé pour générer des données sur les individus ».