ChatGPT déploie des sauvegardes pour identifier les utilisateurs jeunes
L'intelligence artificielle d'OpenAI a activé des mécanismes dans ses explorateurs pour détecter les comptes gérés par des personnes mineures. Cette initiative vise à protéger les adolescents en implémentant des systèmes qui calculent l'âge probable de l'interlocuteur sans le demander directement. 🛡️
Mécanismes d'inférence de l'âge
Le modèle ne demande pas de données personnelles, mais déduit l'âge à partir de signaux indirects qu'il capte pendant le dialogue. Il traite le type de langage employé, le niveau de complexité des questions et le contexte général de la conversation. De plus, il peut évaluer la tranche horaire dans laquelle se produisent la majorité des interactions.
Signaux clés analysés par l'algorithme :- Thèmes de conversation : Analyse les sujets abordés pour rechercher des patterns associés à différents groupes d'âge.
- Style linguistique et complexité : Évalue le vocabulaire et la structure des requêtes pour inférer la maturité.
- Horaires d'activité : Considère l'heure de la journée à laquelle l'utilisateur interagit le plus fréquemment.
L'objectif est de créer un environnement numérique plus sûr, bien que cela limite parfois les capacités du modèle pour les utilisateurs qui, malgré leur âge adulte, présentent des patterns que le système interprète comme juvéniles.
Conséquences sur l'interaction
Quand le système détermine qu'il est probable qu'un utilisateur soit mineur de moins de 18 ans, il active automatiquement des filtres de protection renforcés. Cela modifie l'expérience, car l'assistant peut refuser de répondre à certaines questions ou fournir des réponses plus génériques et prudentes.
Effets de l'activation des protocoles de sécurité :- Le modèle restreint l'accès au contenu qu'il ne considère pas approprié pour l'âge inféré.
- Les réponses peuvent devenir plus prudentes et moins spécifiques.
- La sécurité est priorisée sur l'utilité complète de l'assistant.
Possibles faux positifs
Ces systèmes ne sont pas infaillibles et peuvent classer erronément des utilisateurs adultes. Par exemple, une personne âgée qui pose des questions simples au milieu de la nuit pourrait recevoir un traitement similaire à celui d'un adolescent, ce qui entraîne des réponses excessivement protégées qui semblent tirées d'un manuel pour enfants. Cette situation souligne l'équilibre délicat entre protéger et ne pas restreindre inutilement. 🤖