OpenAI mise sur la détection de l’âge pour renforcer la sécurité de ChatGPT auprès des mineurs

Une nouvelle fonctionnalité pour assurer la protection des mineurs avec ChatGPT

OpenAI, responsable du développement de ChatGPT, souhaite renforcer la sécurité des jeunes utilisateurs en intégrant un système d’estimation de l’âge. Après des accusations récentes de parents américains concernant des contenus potentiellement dangereux, l’entreprise a annoncé, début septembre, l’implémentation d’un contrôle parental pour son assistant conversationnel. Mardi, elle a précisé que ChatGPT adapterait ses réponses lorsqu’il détecte qu’il échange avec un utilisateur de moins de 18 ans, l’outil étant destiné aux personnes de 13 ans et plus.

Une estimation de l’âge pour une interaction adaptée

Selon Sam Altman, le PDG d’OpenAI, un système de prédiction de l’âge est en cours de développement afin d’évaluer l’âge des utilisateurs en se basant sur leur utilisation de ChatGPT. En cas de doute, le chatbot privilégiera une expérience réservée aux moins de 18 ans afin de garantir leur sécurité.

Un dispositif pour modérer le contenu sensible

Cette nouvelle approche modifie la manière dont ChatGPT interagit avec les utilisateurs mineurs. Elle prévoit notamment une restriction des contenus à caractère sexuel, évitant que le robot ne tienne des propos inappropriés. De plus, le chatbot ne participera pas à des discussions traitant de sujets sensibles comme le suicide ou l’automutilation. En cas d’utilisation suspecte par un mineur, par exemple pour évoquer des scénarios suicidaires, le système pourra alerter les parents ou, en cas d’urgence, les autorités compétentes.

Une priorité à la sécurité pour protéger les jeunes utilisateurs

Dans un communiqué, Sam Altman affirme : « Nous privilégions la sécurité des jeunes utilisateurs, parfois au détriment de leur vie privée ou de leur liberté. Il s’agit d’une technologie puissante, et il est essentiel de leur assurer une protection adéquate. »

Ressources pour l’aide en cas de pensées suicidaires ou de détresse

Pour toute personne confrontée à des pensées suicidaires ou préoccupée par un proche, plusieurs associations offrent une écoute et un soutien 24/7 :

• La Main Tendue : 143
• Pro Juventute : 147
• Urgences médicales : 144
• Santépsy.ch
• Stop Suicide