La Unión Europea, Reino Unido y Estados Unidos se encuentran a las puertas de firmar el primer tratado internacional jurídicamente vinculante sobre inteligencia artificial (“IA”).
Este tratado, conocido como el Convenio Marco del Consejo de Europa sobre Inteligencia Artificial y derechos humanos, democracia y Estado de derecho (el Convenio”), es el fruto de años de trabajo y fue adoptado en mayo después de debates entre 57 países. El Convenio aborda los riesgos que puede plantear la IA, al tiempo que promueve la innovación responsable.
En palabras de la Ministra de Justicia británica, Shabana Mahmood, el Convenio es un paso importante para garantizar que las nuevas tecnologías puedan aprovecharse sin erosionar los valores más antiguos, como los derechos humanos y el estado de derecho.
El Convenio se centra en la protección de los derechos humanos de las personas afectadas por los sistemas de IA y es independiente del Reglamento Europeo de IA, que entró en vigor el mes pasado.
El Reglamento Europeo de IA implica regulaciones integrales sobre el desarrollo, implementación y uso de sistemas de IA dentro del mercado interno de la UE.
Los primeros trabajos en torno al Convenio se remontan a 2019, cuando un comité ad hoc comenzó a examinar la posibilidad de regular esta materia. A partir de entonces, se analizó la viabilidad de un convenio marco sobre IA y en 2022 se formó un comité sobre Inteligencia Artificial que redactó y negoció el texto.
Los signatarios podrán optar por adoptar o mantener medidas legislativas, administrativas o de otro tipo para dar efecto a las disposiciones.
Cabe destacar que en opinión de Francesca Fanucci, experta legal del ECNL (Centro Europeo para la Fundación Legal Sin Fines de Lucro) que contribuyó al proceso de redacción del Convenio junto con otros grupos de la sociedad civil, el acuerdo había sido «diluido» en un amplio conjunto de principios.
En este sentido, Francesca Fanucci afirmaba que la formulación de principios y obligaciones del Convenio es tan amplia y está tan plagada de salvedades que plantea serias dudas sobre su seguridad jurídica y su aplicabilidad efectiva. Asimismo, esta persona destacaba como defectos las exenciones a los sistemas de inteligencia artificial utilizados con fines de seguridad nacional y el escrutinio limitado de las empresas privadas en comparación con el sector público.