OpenAI implementa un sistema para estimar la edad de los usuarios
OpenAI implementa un sistema para estimar la edad de los usuarios
La empresa OpenAI ha revelado esta semana una nueva funcionalidad para sus servicios de consumo: un modelo de inteligencia artificial diseñado para calcular la edad probable de quienes emplean sus herramientas. Esta acción busca principalmente detectar a usuarios adolescentes y así resguardarlos de material potencialmente dañino. El mecanismo no depende solo de datos que el usuario proporciona, sino que examina hábitos individuales para deducir la edad. 🧠
Mecánica del modelo que calcula la edad
La herramienta examina datos sobre la forma en que una persona se comunica con ChatGPT. Evalúa la periodicidad, la hora del día, la naturaleza de las preguntas y el modo de redactar para construir un perfil de consumo. Con esta información, el algoritmo determina si es más probable que el usuario sea un adulto o un menor. Este método se suma a otras técnicas que la firma puede usar para confirmar la edad.
Factores clave que analiza el sistema:- Frecuencia de uso: Cuántas veces y con qué regularidad se interactúa con la plataforma.
- Horario de actividad: Los momentos del día en los que se producen las consultas.
- Tipo de consultas y estilo lingüístico: El contenido de las preguntas y las características de la escritura.
Esta tecnología ayuda a cumplir con normativas de protección infantil y a responder a las preocupaciones de padres y educadores.
La meta: proteger a los usuarios más jóvenes
Esta iniciativa forma parte de un proyecto más amplio para construir espacios digitales más seguros. Al reconocer a consumidores jóvenes, el sistema puede desplegar barreras de forma automática, como filtrar temas delicados o restringir el acceso a ciertas capacidades. OpenAI subraya que este desarrollo facilita acatar leyes de protección a menores y abordar las inquietudes de las familias y la comunidad educativa. 🛡️
Medidas de protección que puede activar:- Filtrar conversaciones sobre temas sensibles o inapropiados.
- Limitar el acceso a funciones específicas de la inteligencia artificial.
- Ajustar el tono y las respuestas para que sean adecuadas para la edad estimada.
Consideraciones sobre privacidad y alcance
Aunque el propósito central es resguardar a los adolescentes, el sistema inevitablemente examina y clasifica los hábitos de escritura de todos los usuarios, sin importar su edad. Esto podría hacer que algunos adultos perciban una vigilancia sobre sus interacciones. La paradoja es que una herramienta creada para proteger a un grupo termina por analizar los patrones de comunicación de toda la base de usuarios. 🤔