Google déploie son chatbot IA Gemini pour les enfants de moins de 13 ans : opportunités et risques

Google déploie son chatbot IA Gemini pour les enfants de moins de 13 ans : opportunités et risques

Google vient d’annoncer le lancement imminent de son chatbot d’intelligence artificielle (IA) Gemini, spécialement conçu pour les enfants âgés de moins de 13 ans. Cette nouveauté sera d’abord disponible aux États-Unis et au Canada, avant de s’étendre en Australie plus tard cette année. L’accès au chatbot se fera uniquement via les comptes Family Link de Google, un système destiné à permettre aux parents de contrôler et filtrer le contenu accessible à leurs enfants.

Fonctionnement du chatbot Gemini et contrôle parental

Pour créer un compte enfant, les parents doivent fournir certaines informations personnelles, dont le nom et la date de naissance, ce qui suscite des inquiétudes relatives à la protection de la vie privée et aux risques de piratage des données. Google assure cependant que ces données ne seront pas utilisées pour entraîner l’IA.

Par défaut, le chatbot est activé, les parents doivent donc choisir de le désactiver s’ils veulent limiter l’accès. Les jeunes utilisateurs pourront ainsi demander des réponses textuelles ou la création d’images générées par l’IA. Google avertit toutefois que le système peut parfois commettre des erreurs, notamment en générant des informations erronées, un phénomène appelé « hallucination ». Ainsi, il est essentiel d’encourager les enfants à vérifier les informations reçues, surtout lorsqu’ils utilisent le chatbot pour leurs devoirs.

Limiter les contenus inappropriés : un défi complexe

Le système intègre des garde-fous pour éviter la génération de contenu inapproprié. Néanmoins, ces filtres pourraient involontairement empêcher l’accès à des informations utiles, par exemple sur les changements corporels liés à la puberté, en censurant certains mots-clés.

Par ailleurs, les enfants très techniques savent souvent contourner les contrôles instaurés, ce qui signifie que les parents ne peuvent pas se reposer uniquement sur les protections automatiques. Un suivi actif, un dialogue ouvert et une sensibilisation à l’utilisation responsable de ces technologies restent indispensables.

Les risques spécifiques des chatbots IA pour les enfants

Selon la Commission eSafety, les chatbots peuvent présenter des risques sérieux, notamment en partageant des contenus nuisibles, en déformant la réalité, ou en prodiguant des conseils dangereux. Leur caractère conversationnel et leur capacité à simuler un échange humain peuvent tromper les jeunes enfants, qui manquent souvent des compétences critiques nécessaires pour reconnaître ces limites et les manipulations potentielles.

Des recherches récentes montrent que les chatbots comme Gemini reproduisent les règles sociales implicites pour instaurer un climat de confiance, ce qui peut rendre encore plus difficile la distinction entre une interaction humaine et une interaction avec une machine.

Protéger les enfants malgré les évolutions technologiques

Le lancement de Gemini arrive à un moment clé, particulièrement en Australie où, dès décembre, les enfants de moins de 16 ans auront interdiction de détenir un compte sur les réseaux sociaux. Or, les chatbots IA ne sont pas considérés comme des réseaux sociaux, ce qui les place en dehors de ce cadre légal.

Les parents doivent donc rester vigilants face à ces nouvelles technologies et être informés des risques potentiels. L’éducation numérique des enfants devient cruciale pour leur apprendre à utiliser ces outils de manière sûre et critique.

Enfin, cette situation souligne l’urgence d’instaurer une réglementation forte, telle qu’un devoir de vigilance numérique pour les grandes entreprises technologiques. Tandis que l’Union européenne et le Royaume-Uni ont déjà adopté des lois en ce sens en 2023, l’Australie tarde à mettre en place une telle législation, indispensable pour encadrer ces innovations et protéger au mieux les utilisateurs, notamment les plus jeunes.

👉 Source ici

A lire ensuite