OpenAI a implémenté dans ChatGPT une fonction appelée Trusted Contact, destinée aux utilisateurs adultes. Cet outil permet de désigner une personne de confiance qui recevra une alerte si le système détecte des signes de risque d'automutilation ou de suicide. Cette mesure vise à offrir un canal de soutien supplémentaire dans les situations critiques.
Comment fonctionne le système d'alerte préventive dans ChatGPT 🛡️
La fonction Trusted Contact s'active grâce à une analyse des schémas conversationnels que le modèle effectue en temps réel. Lorsque le système identifie un niveau de risque élevé, il envoie une notification au contact désigné avec des informations sur la situation, sans révéler le contenu complet de la conversation. L'utilisateur doit configurer ce contact depuis les paramètres du compte et peut le modifier à tout moment. La confidentialité des données est maintenue conformément aux protocoles de sécurité d'OpenAI.
Ton ami ChatGPT appelle maintenant aussi tes parents 😅
Parce qu'il ne suffisait pas que l'IA te rappelle tes erreurs grammaticales ou te dise que ton idée d'entreprise est nulle. Maintenant, si tu deviens trop dramatique avec le chatbot, il peut prévenir ton contact de confiance. Attention, tu pourrais configurer ton ex par erreur et finir par recevoir un message texte en essayant d'écrire un poème triste. La technologie avance, mais le drame reste universel.