OpenAI a commencé mardi à déployer une version de ChatGPT réservée aux adolescents, appliquée par défaut aux 13-17 ans avec des garde-fous renforcés, un an après une première plainte accusant l’assistant IA d’avoir contribué au suicide d’un jeune Américain.
Nommée « ChatGPT for Teens », cette version devient automatique pour tout utilisateur qui se déclare mineur ou que l’entreprise détecte, à partir de signaux comme l’ancienneté du compte ou les habitudes d’usage.
L’essentiel des garde-fous existait déjà pour les comptes identifiés comme mineurs: contenus restreints (automutilation, violence, troubles alimentaires, sexualité explicite), rappels réguliers de pause, plages horaires bloquées et « mode étude », qui guide par questions plutôt que de donner les réponses.
Lire aussi | Mineurs et réseaux sociaux: le procès de Meta entre dans le vif du sujet
La nouveauté consiste à réunir ces protections en une expérience unique, enrichie de rappels plus fréquents à chercher de l’aide humaine si besoin, ou à ne pas tricher sur les devoirs. La voix est également désactivée pour rendre l’outil moins humain, et le robot ne doit plus laisser entendre qu’il éprouve des sentiments, explique OpenAI.
L’entreprise s’appuie aussi sur ses alertes aux parents, lancées à l’automne 2025 et élargies en juillet: si l’adolescent a lié son compte à celui d’un adulte — lien qu’il peut rompre à tout moment –, ce dernier est prévenu en cas de signes de risque suicidaire ou d’automutilation, ou si le compte est désactivé pour des contenus violents. Chaque alerte est validée par un examinateur humain, sans dévoiler le contenu exact des conversations, selon OpenAI.
Ce lancement intervient dans un contexte judiciaire et réglementaire pressant. Les parents d’Adam Raine, un Californien de 16 ans qui s’est suicidé en avril 2025, accusent en justice ChatGPT d’avoir accompagné leur fils dans son geste. Depuis septembre 2025, le gendarme américain du commerce (FTC) enquête sur les effets des chatbots de sept entreprises sur les mineurs.
Lire aussi | Le Brésil suspend les lives sur Discord après le suicide d’une adolescente
Face au même problème, ses concurrents ont choisi des voies différentes: Character.AI a fermé ses conversations libres aux moins de 18 ans en novembre 2025, Anthropic réserve son assistant Claude aux adultes, tandis que Google a ajouté à Gemini des restrictions pour mineurs. Celles-ci ont été renforcées en avril après une évaluation critique de l’ONG Common Sense Media que le groupe conteste.
Comme les réseaux sociaux avant elle, l’IA générative voit aussi le cadre légal se resserrer: la Californie impose depuis janvier des garde-fous aux chatbots jouant un rôle de compagnon ou confident, le Congrès américain envisage d’interdire leur accès aux mineurs et l’Australie exige une vérification d’âge sous peine d’amende.
Lire aussi | Quand l’IA commet une cyberattaque toute seule, qui est responsable légalement?
Dans l’Union européenne, où le profilage automatisé des mineurs est très encadré, l’estimation d’âge promise en janvier n’était toujours pas déployée à la mi-juillet, selon la documentation d’OpenAI, laissant l’expérience adolescente reposer sur le seul âge déclaré.
Challenge (Avec AFP)
