ChatGpt reconnaîtra les adolescents pour éviter les sujets sensibles

OpenAI développe un système conçu pour identifier automatiquement les adolescents et limiter leur utilisation de ChatGpt, évitant ainsi des sujets comme le suicide. Dans un article de blog, le cofondateur de l'entreprise, Sam Altman, a indiqué que le chatbot proposera un mode de réponse adapté à l'âge des utilisateurs, incluant un bloqueur de contenu à caractère sexuel explicite.

« Nous privilégions la sécurité plutôt que la vie privée et la liberté des adolescents », déclare Altman. « Il s'agit d'une technologie nouvelle et puissante, et nous pensons que les mineurs ont besoin d'une protection efficace. Nous pensons que c'est la meilleure solution et souhaitons être transparents quant à nos intentions. »

En cas de détresse, le système peut également contacter les forces de l'ordre pour assurer la sécurité de l'utilisateur. Si ChatGpt ne peut pas estimer avec précision l'âge d'un interlocuteur, il activera automatiquement le mode protégé. OpenAI permettra aux adultes de vérifier leur âge et de débloquer toutes les fonctionnalités de ChatGpt.

L'entreprise n'a pas précisé quand elle prévoit de déployer les nouveaux systèmes. Cette annonce fait suite au décès d'Adam Raine, 16 ans, premier adolescent soupçonné d'être suicidaire après que le chatbot l'aurait aidé à planifier sa mort. Immédiatement après le suicide, OpenAI a promis de mettre en place des contrôles visant à donner aux parents et tuteurs un meilleur contrôle sur l'utilisation de ChatGpt par les adolescents. Hier, l'entreprise a réitéré son intention de publier la mise à jour d'ici la fin du mois, avec des options permettant d'activer des plages horaires pendant lesquelles les mineurs ne pourront pas utiliser l'IA.