Un tribunal en California determinó que Workday deberá enfrentar una demanda colectiva por presunta discriminación en su software de selección de personal. La inteligencia artificial utilizada para filtrar candidatos podría perjudicar a personas con discapacidad al penalizar lagunas laborales en sus currículums. Este fallo sienta un precedente sobre la responsabilidad legal de las empresas tecnológicas.
El algoritmo como juez de hoja de vida ⚖️
El sistema de Workday analiza patrones en los currículums para clasificar postulantes. Indicadores como pausas prolongadas sin empleo pueden ser interpretados como señales negativas por el modelo predictivo. La demanda alega que esto discrimina indirectamente a personas con discapacidad, quienes suelen tener interrupciones laborales por tratamientos médicos. El caso examinará si la empresa implementó controles para mitigar estos sesgos algorítmicos.
La IA aprende a ser selectiva, pero no tan lista 🤖
Parece que la inteligencia artificial de Workday confunde un año sabático con una falta de productividad. Pronto los algoritmos podrían exigir certificados médicos por cada día de enfermedad. Al menos el juez dejó claro que un programa no puede excusarse diciendo que solo seguía órdenes. El próximo paso será enseñarle a la máquina que un currículum no es un expediente policial.