OpenAI annonce une série de nouvelles fonctions pour améliorer la gestion de la détresse mentale par ChatGPT.

L’objectif : détecter plus finement les signes de souffrance émotionnelle et orienter les utilisateurs vers des ressources adaptées, sans encourager de comportements à risque. Ces changements interviennent après des cas inquiétants où ChatGPT a involontairement renforcé des délires.

OpenAI veut aussi que son outil n’influence pas les décisions personnelles sensibles, comme une rupture, mais accompagne plutôt la réflexion. Des rappels incitant à faire des pauses seront également intégrés pour préserver le bien-être numérique.