OpenAI assure que la précision du système s’affinera progressivement pour protéger les mineurs, grâce à l’apprentissage continu et aux ajustements constants de son intelligence artificielle.
Prévention renforcée : ChatGPT identifie l’âge des utilisateurs
Confronté à une préoccupation croissante au sujet de l’exposition des jeunes à des contenus délicats, OpenAI a instauré une nouvelle fonctionnalité pour son IA ChatGPT : la prédiction d’âge. Cette démarche fait suite au scandale lié à Grok, l’assistant d’intelligence artificielle de la plateforme d’Elon Musk, accusé de produire des images à connotation sexuelle impliquant des mineurs, provoquant une onde de choc dans l’industrie.
Ces événements ont exposé les failles des mesures de protection en place et la facilité avec laquelle des contenus indésirables peuvent toucher les adolescents, même sans intention malveillante. En prédisant l’âge, OpenAI cherche à diminuer considérablement le risque d’exposition des utilisateurs de moins de 18 ans à ce genre de contenus.
Derrière le mécanisme : comment ça marche ?
Jusqu’ici, ChatGPT reposait sur des mesures de contrôle parental et la bonne foi des utilisateurs pour filtrer les contenus sensibles, comme les scènes sexuelles explicites, les contenus graphiques et certains challenges viraux. Cependant, il suffisait qu’un adolescent déclare être adulte pour contourner ces protections. Avec le système de prédiction d’âge, l’IA va désormais analyser plusieurs critères pour estimer l’âge réel de l’utilisateur. Parmi ces critères figurent la date de création du compte, les horaires de connexion et les interactions observées au fil du temps.
Si le système identifie à tort un adulte comme mineur, l’utilisateur pourra prouver son âge via un selfie à travers le service Persona, accessible depuis les paramètres de son compte. En cas de doute, ChatGPT appliquera par défaut les protections les plus strictes pour garantir une expérience sécurisée.
Le déploiement de cette nouveauté se fera progressivement. Pour l’instant, la fonctionnalité est active dans la majeure partie du monde. L’Union Européenne y aura accès dans les semaines à venir.
