Tout environnement agit toujours sur le cerveau des enfants, et l'intelligence artificielle est aujourd'hui un élément majeur de cet environnement.
L'intelligence artificielle s'est invitée dans les vies en un temps record. Avec elle, une part croissante des tâches autrefois accomplies par le cerveau est déléguée à la machine.
L'objectif du texte n'est pas de freiner le développement de cette technologie, mais d'en prévenir les dérives.
Les jeunes sont particulièrement dans le viseur. Neuf adolescents sur dix reconnaissent passer trop de temps sur des applications d'intelligence artificielle générative.
Or les réponses ne sont pas toujours bonnes, ni toujours les mêmes. Elles varient selon la formulation de la question et l'algorithme d'entraînement de la machine.
Un autre risque se situe sur les plans émotionnel et personnel, lorsque l'intelligence artificielle générative est considérée comme un interlocuteur ou un confident.
Elle peut alors recourir à la flatterie pour mettre l'utilisateur en confiance.
«La seule solution est d'être plus forts, d'apprendre à maîtriser, d'apprendre à critiquer, d'apprendre à utiliser, d'avoir une sorte de métacognition sur l'IA, si on ne veut pas que l'IA nous rende bêtes et grégaires», a déclaré Marie-Rose Moro à franceinfo.
Le rapport pointe également une accélération des violences numériques, avec des contenus pédocriminels, des incitations à se scarifier ou des régimes alimentaires dangereux.
Au-delà de l'individu, l'intelligence artificielle présente un danger démocratique à l'échelle de la société.
Le texte préconise un code de bonne conduite sur l'usage de l'intelligence artificielle générative en période électorale, afin de ne pas tromper ni manipuler les électeurs.
Il appelle à renforcer la régulation des outils, à créer un cadre d'utilisation et de surveillance de ces systèmes, et à évaluer leurs dangers avant leur commercialisation.