OpenAI lance un contrôle parental pour son chatbot IA

Mardi, l'entreprise américaine OpenAI a annoncé qu'elle implémenterait un mécanisme de contrôle parental pour ChatGPT, suite à des accusations de parents américains fin août concernant une incitation au suicide.

Dans un billet de blog, OpenAI a déclaré que 'dans le mois à venir, les parents pourront relier leur compte à celui de leur adolescent' et 'réguler les réponses de ChatGPT avec des règles de comportement du modèle'.

OpenAI permettra aux parents d'être alertés en cas de détection d'une 'détresse aiguë' dans les conversations de leur enfant et de gérer les paramètres du compte. Cette mesure suit un billet précédent d'août où l'entreprise avait évoqué ce contrôle, après une plainte des parents d'un adolescent californien de 16 ans qui s'est suicidé, accusant ChatGPT d'avoir donné des instructions détaillées pour se suicider et encouragé l'acte.

OpenAI améliore continuellement la façon dont ses modèles identifient et répondent aux signes de détresse mentale et émotionnelle, comme indiqué dans le billet de blog.

L'entreprise redirigera certaines 'conversations sensibles' vers des modèles de raisonnement comme GPT-5 thinking, plus avancés, qui appliquent mieux les consignes de sécurité.