Algoritmos que deciden sobre mi empleo. Nuevas obligaciones de transparencia.

Con la entrada en vigor del nuevo Real Decreto-ley 9/2021 (más comúnmente conocida como la “Ley Riders”) se ha establecido una nueva obligación de las empresas de informar a su Comité de Empresa de los parámetros, reglas e instrucciones en los que se basan los algoritmos o sistemas de inteligencia artificial con capacidad para tomar decisiones sobre las condiciones laborales de los empleados, como la subida de sueldo, así como en el acceso a dicha relación, lo que incluye tanto los algoritmos de selección de personal y lectura de los curriculums vitae, como la terminación de la misma.

Esto surge, principalmente, a raíz de las quejas de los llamados “Riders”: repartidores, hasta ahora autónomos, y a partir de esta norma trabajadores asalariados, de plataformas digitales, como pueden ser Glovo, UberEats, Deliveroo, etc., que argumentaban que el algoritmo de sus plataformas parecía asignarles más pedidos a repartir a aquellos Riders que menos cobraran por cada entrega, lo cual implicaba una “subasta a la baja” de sus servicios; o indicaban la existencia de un sistema de puntos que, a mayor puntuación, antes podían entrar a las plataformas y mejores horas de trabajo podían solicitar, quedando los que tenían menor puntuación relegados a escoger las horas libres que habían dejado los demás.

En ninguno de estos casos se proporcionaba información por la empresa sobre cómo funcionaban estos algoritmos, o que datos o parámetros tenían en cuenta para tomar las decisiones. Esto da lugar a un desconocimiento generalizado de que acciones dan lugar a mejor puntuación y mejores condiciones, y cuales acciones penalizaban sus servicios. Además, el no conocer que tipo de datos se emplea en estos algoritmos impiden garantizar que los mismos no tomen decisiones basadas en datos inexactos o sesgados que puedan implicar una discriminación en un grupo concreto de empleados.

La nueva Ley Rider, y su reforma del Estatuto de los Trabajadores, intenta paliar esta situación mediante la obligación de las empresas de ser transparentes, si bien no con todos sus empleados, si con el Comité de Empresa donde se encuentran los representantes de los trabajadores. 

Sin embargo, esta nueva reforma no es clara sobre qué información debe proporcionarse cuando se informe de estos algoritmos al Comité. Para aportar más claridad a qué información debe proporcionarse, podemos tomar como ejemplo el Reglamento 2019/1150 del Parlamento Europeo y del Consejo, de 20 de junio de 2019, sobre el fomento de la equidad y la transparencia para los usuarios profesionales de servicios de intermediación en línea que establece la información mínima que los motores de búsqueda y servicios de intermediación deben proporcionar sobre el funcionamiento de sus algoritmos. Así, podemos considerar que deberían darse las siguientes informaciones:

-Información sobre los parámetros principales que rigen el algoritmo y los motivos por lo que aquellos cuentan con una importancia relativa superior a la de otros parámetros

-La posibilidad o no de que los usuarios influyan en la clasificación del algoritmo mediante algún tipo de acción tasada.

-En caso de alteraciones manuales de los resultados del algoritmo se  ofrecerá al usuario la posibilidad de conocer el motivo que ha llevado a esta alteración y sus consecuencias.

Dicho deber de informar también incluye una excepción al establecer que no se debe exigir la revelación de algoritmos o de información que podría inducir a error o causar un perjuicio a los usuarios. Entendemos que esta excepción debería estar altamente justificada y documentada de cara a garantizar que no se abusa de esta posibilidad.

Sin embargo, como hemos comentado, estos criterios no han sido establecidos pensando en los algoritmos profesionales, por lo que es posible que el legislador decida establecer otros criterios distintos en el momento en que decida aclarar cómo debe informarse de estos algoritmos. 

También debemos destacar que ya existen iniciativas en la Unión Europea que pretenden regular el uso de algoritmos e inteligencia artificial en el ámbito laboral, cuyo primer borrador menciona la necesidad de establecer estándares de funcionamiento de estos algoritmos, por lo cual es posible que el legislador no haya aclarado la información que debe proporcionarse a la espera de que dichos criterios sean establecidos por los organismos reguladores de la Unión Europea.

En cualquier caso, parece que, si bien la iniciativa del legislador es promover cada vez más la seguridad de los trabajadores frente a posibles abusos de los empleadores, tendremos que esperar un poco más hasta ver en que se traduce esta intención legislativa en lo que se refiere al derecho de los usuarios a no ser objeto de decisiones automatizadas sin que se les informe de los criterios de esta decisión y a su derecho a solicitar intervención humana que revise esas decisiones.

Enrique Extremera Maestro. Head of Privacy. Legal Army