Google ha presentado una actualización de su IA Gemini centrada en apoyo a la salud mental, dirigida especialmente a adolescentes. El sistema incorpora un módulo que, si detecta graves dificultades en el usuario durante un chat, puede ofrecer recursos de ayuda. Este desarrollo se ha realizado con la supervisión de expertos clínicos para garantizar un enfoque responsable.
Arquitectura de seguridad y límites en la interacción 🛡️
Técnicamente, la actualización implementa protecciones específicas para menores, filtrando temas peligrosos y respuestas inadecuadas. La interfaz incluye un botón de un toque para conectar con líneas de emergencia. Además, se han establecido reglas base para que Gemini no se presente como un ser humano o un compañero emocional, limitando así el riesgo de dependencia o conductas de acoso hacia la IA.
Tu nuevo psicólogo no te añadirá a sus contactos 🤖
Es reconfortante saber que nuestra futura contención emocional vendrá de una IA programada para no simular humanidad. Gemini te escuchará, pero con la frialdad de un manual de protocolo, recordándote amablemente que no es tu amigo. Un giro irónico: buscamos conexión en máquinas que están diseñadas para no conectarse. Al menos no enviará mensajes pasivo-agresivos si dejas de usarla.