Cada vez más jóvenes recurren a chatbots impulsados por inteligencia artificial cuando enfrentan problemas emocionales o crisis existenciales. Estas herramientas digitales prometen un espacio seguro y disponible las 24 horas del día, pero su uso plantea interrogantes sobre la calidad del apoyo psicológico que pueden ofrecer. Los adolescentes encuentran en estas plataformas un interlocutor que nunca se cansa, no los juzga y está siempre accesible, lo que genera una dependencia preocupante en momentos de vulnerabilidad.


Simulaciones revelan respuestas inadecuadas

Estudios recientes que simulan conversaciones de adolescentes en situaciones críticas demuestran que los asistentes de IA frecuentemente proporcionan consejos genéricos o potencialmente dañinos. Cuando un usuario expresa pensamientos suicidas, algunos sistemas responden con frases vacías o incluso sugerencias peligrosas, incapaces de reconocer la gravedad real de la situación. Estas limitaciones surgen porque los algoritmos carecen de comprensión emocional genuina y simplemente procesan patrones lingüísticos basados en su entrenamiento.

Falta de regulación y supervisión profesional

La ausencia de marcos regulatorios específicos para estas aplicaciones de salud mental representa otro desafío significativo. Mientras un terapeuta humano cuenta con años de formación y está sujeto a códigos éticos estrictos, los sistemas de inteligencia artificial operan en un vacío legal que puede poner en riesgo a usuarios vulnerables. Las empresas tecnológicas priorizan la escalabilidad y el engagement sobre el bienestar real de los adolescentes, creando productos que simulan empatía sin ofrecer el soporte profesional que necesitan los jóvenes en crisis.

Resulta paradójico que busquemos consuelo emocional en máquinas programadas para simular sentimientos, mientras descuidamos las conexiones humanas auténticas que realmente podrían ayudarnos.