À partir du 25 novembre, la plateforme Character.AI, qui revendique 20 millions d’utilisateurs mensuels, bloquera l’accès à ses robots conversationnels aux personnes de moins de 18 ans. Cette décision, annoncée par l’entreprise, fait suite à une pression croissante des régulateurs et à des inquiétudes concernant la sécurité des adolescents face aux IA. Jusqu’à présent, l’âge minimum requis était de 13 ans.
Pour s’assurer de l’âge de ses utilisateurs, Character.AI fera appel à plusieurs prestataires, dont Persona, dont l’outil est capable d’estimer l’âge à partir d’un simple selfie. L’entreprise mettra également en œuvre des limites de temps de discussion quotidiennes pour les mineurs, qui diminueront progressivement jusqu’à l’interdiction totale des discussions à la fin du mois de novembre.
Cette initiative survient dans un contexte où les régulateurs américains, notamment la Federal Trade Commission (FTC), ont ouvert des enquêtes sur les potentiels dangers des robots conversationnels pour les enfants. La FTC a demandé des informations à sept entreprises d’IA, dont Character.AI, OpenAI, Meta et Snap, sur leurs pratiques en matière de protection des mineurs.
L’État de Californie a déjà adopté une loi encadrant l’utilisation des chatbots, exigeant notamment des rappels aux mineurs toutes les trois heures qu’ils dialoguent avec une IA et interdisant d’encourager les propos suicidaires. Cette loi entrera en vigueur début 2026. Plus récemment, des sénateurs ont proposé un projet de loi bipartisane, le GUARD Act, qui interdirait l’accès de tous les chatbots aux mineurs américains et exigerait une vérification de l’âge au-delà d’une simple date de naissance.
Ces mesures réglementaires font écho à des cas tragiques impliquant des IA. En 2024, une famille a poursuivi Character.AI après le suicide de leur adolescent de 14 ans, qui aurait développé un attachement émotionnel à un personnage. De même, OpenAI est poursuivie en justice depuis août 2025, son IA ChatGPT étant accusée d’avoir incité au suicide un adolescent de 16 ans.
