Google déploie son chatbot d’intelligence artificielle Gemini destiné aux enfants de moins de 13 ans, une initiative qui soulève des questions importantes concernant la sécurité et la confidentialité des plus jeunes utilisateurs.
Crédit : Markus Winkler via Pexels
Déploiement progressif du chatbot Gemini pour les enfants
Le lancement du chatbot AI Gemini commencera dans la semaine à venir aux États-Unis et au Canada, avec une mise à disposition prévue en Australie plus tard cette année. Ce service sera exclusivement accessible aux enfants possédant un compte Google Family Link, permettant aux parents de gérer et contrôler l’usage du chatbot.
Malgré les restrictions sur l’accès des enfants aux réseaux sociaux, ce déploiement illustre les défis continus auxquels les parents sont confrontés pour protéger leurs enfants dans un environnement numérique en constante évolution. La nécessité d’instaurer rapidement un devoir de vigilance numérique pour les grandes entreprises technologiques comme Google devient plus évidente que jamais.
Fonctionnement du chatbot AI Gemini
Les comptes Family Link de Google offrent aux parents la possibilité de contrôler l’accès aux contenus et applications, notamment YouTube. Pour créer un compte enfant, les parents doivent fournir des informations personnelles telles que le nom et la date de naissance.
Si des préoccupations en matière de vie privée et de protection des données sont légitimes, Google affirme que les données des enfants ne seront pas utilisées pour entraîner le système d’intelligence artificielle. Par défaut, l’accès au chatbot est activé, et les parents doivent donc agir pour le désactiver si nécessaire.
Les enfants pourront interagir avec Gemini en demandant des réponses textuelles ou la création d’images générées par l’IA. Toutefois, Google admet que le système peut commettre des erreurs, d’où l’importance pour les enfants d’apprendre à vérifier les informations fournies, notamment lors de l’aide aux devoirs.
Type d’informations fournies par le chatbot
Contrairement aux moteurs de recherche qui récupèrent des sources originales, les outils d’IA générative analysent des modèles dans les données pour créer de nouveaux contenus textuels ou visuels en réponse aux requêtes utilisateurs.
Par exemple, un enfant demandant une image d’un chat verra l’IA générer une illustration basée sur les caractéristiques typiques (moustaches, oreilles pointues, queue longue). La distinction entre contenu original consulté via une recherche et contenu généré par un chatbot AI peut être difficile à saisir pour les plus jeunes.
Des études montrent que même des adultes peuvent être trompés par des contenus produits par l’IA, et des professionnels aguerris, tels que des avocats, ont déjà été induits en erreur par des informations fausses générées par des chatbots.
Garanties d’adéquation et limites de la modération
Google assure que Gemini intègre des mécanismes de sécurité visant à prévenir la diffusion de contenus inappropriés ou dangereux pour les enfants. Cependant, ces filtres peuvent parfois engendrer des effets indésirables, comme le blocage de termes nécessaires à l’éducation sur des sujets liés à la puberté.
Par ailleurs, les enfants, souvent très à l’aise avec la technologie, savent contourner certains contrôles. Il est donc primordial que les parents ne se reposent pas uniquement sur les sécurités intégrées et qu’ils accompagnent leurs enfants dans la compréhension et la vérification des contenus générés.
Risques associés aux chatbots AI pour les enfants
La Commission australienne eSafety a publié une mise en garde sur les dangers potentiels des chatbots AI, notamment ceux sim ulant des relations personnelles avec les jeunes utilisateurs. Ces compagnons numériques peuvent diffuser des contenus nuisibles, déformer la réalité et proposer des conseils dangereux.
Les enfants, encore en phase de développement de leur esprit critique et de leurs compétences sociales, sont particulièrement vulnérables à la manipulation et à la désinformation par des programmes informatiques. Les chatbots, en reproduisant les règles implicites de politesse et d’interaction humaine, cherchent à instaurer une relation de confiance qui peut être trompeuse.
Protéger les enfants face aux dangers des chatbots AI
Cette mise en service intervient dans un contexte où, en Australie, les enfants de moins de 16 ans seront interdits d’avoir des comptes sur les réseaux sociaux à partir de décembre. Pourtant, l’arrivée d’outils comme Gemini démontre que les risques en ligne dépassent largement le cadre des médias sociaux.
Éduquer les enfants et leurs parents sur l’utilisation responsable et sécurisée de toutes les technologies numériques devient indispensable. En outre, puisque Gemini n’est pas un réseau social, il ne sera pas concerné par cette interdiction australienne.
Face à ces nouveaux défis, les parents doivent se tenir informés des innovations et des risques liés aux technologies numériques, tout en comprenant les limites des mesures de protection existantes. Cela souligne aussi l’urgence de relancer en Australie la législation sur le devoir de vigilance numérique, déjà adoptée en 2023 dans l’Union européenne et au Royaume-Uni, afin de contraindre les entreprises technologiques à gérer efficacement les contenus nuisibles à la source.