Consideraciones a tener en cuenta al implantar soluciones de inteligencia artificial

Numerosas son las cuestiones que se plantean alrededor de la inteligencia artificial (IA) en todos los países del mundo para aprovechar los beneficios que estas tecnologías pueden aportar a nivel económico y social. A pesar de ello, al mismo tiempo también se busca poner freno, o al menos se intenta mitigar, los riesgos que lleva asociados la IA relacionados con la ética, la privacidad, incertidumbre jurídica o seguridad. 

De esta manera, cada vez son más las organizaciones que buscan incorporar la IA para mejorar la eficiencia en su funcionamiento intentando evitar los riesgos asociados a esta tecnología. Diferentes áreas como lo relacionado con la salud, el uso policial de la IA, y otros campos dónde también puede afectar a los derechos de las personas por posibles sesgos o discriminación, como a la hora de contratación de personal en recursos humanos, son algunos de los casos que en los que mayor preocupación genera esta tecnología. 

Por ello, junto con el potencial que tiene la IA también es necesario saber cómo implementarla sabiendo identificar y mitigar los posibles riesgos asociados para obtener un beneficio óptimo de esta tecnología a través de mecanismos de gobernanza para que cuente con la supervisión adecuada. De esta manera, al conseguir mecanismos para supervisar la herramienta, se puede conseguir un control efectivo sobre la IA, ya que, en el caso de las organizaciones, la mayoría adquirirán esta tecnología a un proveedor externo a las empresas como así ocurre cuando contratamos cuando se contratan servicios de software o cloud. 

Además del análisis que se haga sobre la posible adquisición de productos, o incluso el propio desarrollo de esta tecnología, hay algunos principios o pautas que siempre deberían tenerse en cuenta:

-Estudiar la conveniencia: en relación a los posibles beneficios y riesgos de la IA junto con las necesidades y derechos de los posibles afectados para determinar si se debe implantar una IA o no. 

-Transparencia: para informar a las personas de una manera clara y comprensible a las personas que estén sujetas al uso de estas herramientas, así como la manera en la que las personas pueden hacer alegaciones sobre las decisiones basadas en IA.

-Confiabilidad: para que las herramientas sean efectivas y de confianza en relación con el uso con el que se han adquirido durante toda la vida útil de la tecnología. 

-No discriminación: dichas herramientas se deben evaluar ante de su implantación por si contuviera posibles sesgos, junto con procedimientos para remediar de manera proactiva los posibles daños que pudiera generar.

-Privacidad: incorporando principios de privacidad desde el diseño y por defecto de manera que se garantice la protección de datos personales.  

Estos son algunos de los principios que la Universidad de California (EE. UU) ha decidido adoptar para la implantación de IA en el desarrollo de toda su actividad como universidad.

A propósito de la mención de los riesgos para los derechos que supone la IA, en Europa la Comisión Europea presentó este año un informe para medir el impacto sobre la propuesta de Reglamento de Inteligencia Artificial. Este informe facilita algunos ejemplos de casos concretos en los que la IA podría presentar riesgos para los derechos y libertades fundamentales. Por ejemplo, en relación a los peligros para las libertades, se pone el informe plantea casos que se podrían incumplir la Carta de los Derechos Fundamentales de la UE (Artículos 6-19) con casos como el uso de reconocimiento facial en espacios públicos como en Madrid y el posible uso de un sistema de reconocimiento facial en la Estación del Sur en la que se compara automáticamente los rostros con una base de datos de sospechosos y dicha información se comparte con la policía. Así, este caso plantearía que no existe casi ningún grado de intervención humana debido a la gran velocidad de reconocimiento por la IA y la falta de información asociada a que en la inmensa mayoría de los casos los datos de las personas estarían siendo facilitados de manera involuntaria.

Williams Colacci, Legal Team, Legal Army