Conforme hemos venido anunciando, la Comisión firmó el pasado 5 de septiembre en Vilna (Lituania), en nombre de la UE, el Convenio Marco del Consejo de Europa sobre Inteligencia Artificial y Derechos Humanos, Democracia y Estado de Derecho, expresando así su intención de que la UE sea parte del primer tratado internacional jurídicamente vinculante destinado a garantizar el respeto de los derechos humanos, el estado de derecho y las normas jurídicas democráticas en el uso de sistemas de inteligencia artificial (IA).
El tratado no se retringe a la UE y está abierto a países no europeos, estableciendo un marco jurídico que abarca todo el ciclo de vida de los sistemas de IA y aborda los riesgos que pueden plantear, al tiempo que promueve la innovación responsable. Al igual que el Reglamento IA de la UE, el convenio adopta un enfoque basado en el riesgo para el diseño, desarrollo, uso y retirada de sistemas de IA.
El tratado abarca el uso de sistemas de IA en el sector público y privado.
El instrumento internacional establece requisitos de transparencia y supervisión adaptados a contextos y riesgos específicos, incluida la identificación de contenidos generados por sistemas de IA. Las partes interesadas deberán adoptar medidas para identificar, evaluar, prevenir y mitigar los posibles riesgos y evaluar la necesidad de una moratoria, una prohibición u otras medidas apropiadas en relación con los usos de sistemas de IA cuyos riesgos puedan ser incompatibles con las normas de derechos humanos. Del mismo modo,deberán garantizar la rendición de cuentas y la responsabilidad por los impactos adversos y que los sistemas de IA respeten la igualdad, incluida la igualdad de género, la prohibición de la discriminación y los derechos a la privacidad. Además, las partes que forman parte del tratado deberán garantizar la disponibilidad de recursos legales para las víctimas de violaciones de los derechos humanos relacionadas con el uso de sistemas de IA y garantías procesales, incluida la notificación a cualquier persona que interactúe con sistemas de IA de que está interactuando con dichos sistemas.
Por último, respecto a los riesgos para la democracia, el tratado exige a las partes adoptar medidas para garantizar que los sistemas de IA no se utilicen para socavar las instituciones y los procesos democráticos, incluido el principio de separación de poderes, el respeto a la independencia judicial y el acceso a la justicia.
El tratado no se aplicará a cuestiones de seguridad y defensa nacional, ni a actividades de investigación y desarrollo, al igual que el Reglamento IA de la UE.
La Comisión Europea ha pasado a elaborar una propuesta de decisión del Consejo para la celebración del Convenio, a la que deberá adicionarse la aprobación del Parlamento Europeo.
Accede al sitio web de la Comisión Europea para obtener más información sobre este Convenio Marco.
