California refuerza su ley antidiscriminación y establece nuevas normas sobre el uso de sistemas de IA en decisiones laborales
El Consejo de Derechos Civiles de California anunció recientemente la finalización del reglamento que aclara cómo se aplican las leyes antidiscriminación del estado al uso de la inteligencia artificial (IA) y los sistemas de decisión automatizada (ADS, por sus siglas en inglés) en los procesos de toma de decisiones laborales.
Desde el 1 de octubre de 2025, estas nuevas regulaciones han entrado en vigor, ampliando el alcance de la Ley de Igualdad en el Empleo y la Vivienda de California (FEHA, por sus siglas en inglés) para incluir los sistemas de decisión automatizada basados en IA utilizados en la gestión y adopción de decisiones en materia laboral.
La nueva regulación define un ADS como cualquier proceso computacional que facilite la toma de decisiones humanas o adopte decisiones en materia de empleo (selección, reclutamiento, promoción o contratación) mediante técnicas como el aprendizaje automático, los algoritmos o la estadística.
Entre los ejemplos de tareas que puede realizar un ADS se incluyen: test automatizados, cuestionarios, juegos de evaluación, cribado de currículos por términos o patrones concretos, análisis de expresiones faciales, de voz o de características conductuales y de personalidad, medición de habilidades, destrezas o tiempo de reacción, así como la categorización y la segmentación de anuncios de empleo dirigidos a grupos específicos.
De acuerdo con el Consejo de Derechos Civiles, si bien los sistemas de IA en el ámbito laboral pueden aportar innumerables beneficios, también pueden exacerbar los sesgos existentes y contribuir a la discriminación.
Los empleadores en California no podrán utilizar ADS que discriminen, directa o indirectamente, por motivos protegidos bajo la FEHA (por ejemplo, raza, edad, género, discapacidad, credo religioso o nacionalidad). Incluso las herramientas aparentemente neutrales pueden generar efectos adversos y serán ilegales bajo la normativa de California, salvo que el empleador demuestre que son pertinentes para el puesto e imprescindibles para el negocio.
La regulación introduce la figura del “proxy”, es decir, variables estrechamente correlacionadas con categorías protegidas bajo la FEHA, que también quedan sometidas al control antidiscriminatorio. Asimismo, las evaluaciones realizadas por un sistema de decisión automatizada que revelen información sobre discapacidades pueden constituir una consulta médica ilegal.
Para poder defenderse de reclamaciones por discriminación, los empleadores deben haber llevado a cabo pruebas de sesgo (“anti-bias testing”) u otras medidas proactivas similares para prevenir la discriminación ilegal, tanto antes como después del uso de un ADS. Estas pruebas deben evaluar su calidad, eficacia, periodicidad y resultados, así como reflejar las acciones adoptadas ante hallazgos desfavorables.
Además, se exige conservar todos los registros de las decisiones automatizadas, los criterios utilizados y los resultados obtenidos durante al menos cuatro años (antes el plazo era de dos). Los proveedores o terceros que actúen como “agentes” del empleador al implementar o gestionar un ADS también asumen responsabilidad bajo estas reglas.
En conclusión, esta nueva regulación impone a los empleadores una obligación proactiva de diligencia que va más allá de la mera supervisión del sistema: exige pruebas de sesgo antes y durante su uso, documentación detallada y la capacidad de justificar la herramienta frente a posibles eventos discriminatorios. Los proveedores de tecnología quedan directamente implicados como agentes del empleador, lo que les obliga a garantizar el cumplimiento desde el diseño del sistema. La conservación de los datos durante cuatro años permite la trazabilidad de las decisiones automatizadas y refuerza la capacidad de supervisión y auditoría. En la práctica, muchas empresas californianas deberán revisar o incluso sustituir sus herramientas automatizadas para asegurar que se ajustan a los nuevos estándares de equidad, transparencia y responsabilidad legal.