Instagram ha decidido que la responsabilidad de moderar su algoritmo recaiga sobre los usuarios. La plataforma externaliza la tarea de corregir sus propios fallos éticos, admitiendo así que no puede o no quiere construir un sistema transparente. Esta decisión prioriza la retención de usuarios sobre su bienestar, delegando en las personas el trabajo que la compañía debería hacer.
Algoritmos auditables: la transparencia como estándar técnico 🔍
La solución técnica pasa por implementar algoritmos auditables por defecto. Esto implica código abierto para revisión externa, controles de sesgo integrados y reportes de transparencia obligatorios. Sistemas como el de YouTube para explicar recomendaciones son un paso, pero insuficiente. Se necesita una arquitectura donde el usuario no tenga que reportar contenido dañino, sino que el sistema lo evite desde su diseño. La auditoría constante por terceros independientes es clave para validar que no se prioriza el engagement sobre la salud mental.
Gracias, jefe: ahora moderaré sus fallos en mi tiempo libre 😅
O sea, que Instagram nos dice: oye, nuestro algoritmo recomienda basura, pero en lugar de arreglarlo, tú, que pagas con tus datos, dedica tus tardes a reportar lo que nosotros no filtramos. Es como ir a un restaurante donde el chef te da los ingredientes crudos y te dice: cocínalo tú, que yo no sé controlar el fuego. Menos mal que pagamos la suscripción con nuestra atención, así al menos el trabajo no remunerado tiene sentido.