¿Alguna vez te has preguntado cómo las grandes empresas de IA deciden qué es apropiado o no para sus chatbots? Resulta que detrás de la magia de ChatGPT hay equipos enteros de personas debatiendo estos límites, a veces con resultados bastante polémicos.


El guardián que se fue

OpenAI tiene una estructura con un comité de seguridad y expertos individuales que actúan como consejeros éticos. Su trabajo es orientar el desarrollo de la IA hacia un camino seguro y responsable. Imagina a un grupo de amigos intentando ponerse de acuerdo sobre las reglas de un juego nuevo, pero con consecuencias globales. Uno de esos expertos era un firme opositor a añadir funciones de contenido erótico en ChatGPT, argumentando por la seguridad y el uso responsable.

Un despido que levanta sospechas

A principios de enero, este especialista fue despedido. La razón oficial apunta a una acusación de discriminación por género hacia un colega. Esto ha generado un gran debate: ¿fue un despido justificado por una mala conducta, o es una forma conveniente de sacar de la ecuación a una voz incómoda que frenaba ciertos desarrollos? Es como cuando en una reunión familiar, la persona que siempre dice esto no me parece bien de repente deja de venir.

La tecnología avanza rápido, pero las discusiones sobre sus límites éticos son tan humanas y complicadas como siempre. Al final, hasta la inteligencia artificial más avanzada depende de las decisiones, y los desacuerdos, de personas de carne y hueso.