Conforme hemos anticipado en anteriores entradas de este Blog, el próximo 2 de agosto de 2025 será exigible un nuevo conjunto de disposiciones y obligaciones previstas en el Reglamento.
A pesar las presiones políticas y de la industria, el Reglamento de IA de la UE sigue adelante y el próximo 2 de agosto resultará exigible un nuevo conjunto de disposiciones y obligaciones, en particular, el capítulo III -sección 4 (Autoridad notificante y organismos notificados)-, el capítulo V (Modelos IA uso general), el capítulo VII (Gobernanza), el capítulo XII (Sanciones) y el artículo 78 (Confidencialidad), a excepción del artículo 101 relativo a multas a proveedores de modelos de IA de propósito general.
Éstas se añaden a las obligaciones de prohibición de uso de sistemas no permitidos en el Reglamento, así como de alfabetización, exigibles desde el pasado 2 de febrero tanto a entidades desarrolladoras, proveedoras como usuarias.
Por lo que a nivel de entidades desarrolladoras y usuarias se refiere, las nuevas obligaciones más significativas que serán exigibles en 3 semanas se refieren a las obligaciones de proveedores de modelos de IA de propósito general (GPIA) o fundacionales, esto es, modelos capaces de desempeñar tareas generales para múltiples propósitos como modelos de lenguaje o generativos, con adición de obligaciones adicionales para aquellos con riesgo sistémico*.
Las principales obligaciones de proveedores de modelos de IA de uso general son: a) elaborar y mantener actualizada la documentación técnica del modelo, incluida la información relativa al proceso de entrenamiento y realización de pruebas y los resultados de su evaluación a disposición de la Oficina de IA y autoridades competentes; b) elaborar y mantener actualizada la información y documentación, a disposición de los proveedores de sistemas de IA que tengan la intención de integrar el modelo de IA de uso general en sus sistemas de IA; c) establecer directrices para cumplir la legislación de la Unión en materia de derechos de autor y, en particular, para detectar y cumplir, por ejemplo, a través de tecnologías punta, una reserva de derechos expresada de conformidad con el artículo 4, apartado 3, de la Directiva (UE) 2019/790; d) elaborar y poner a disposición del público un resumen suficientemente detallado del contenido utilizado para el entrenamiento del modelo de IA de uso general, con arreglo al modelo facilitado por la Oficina de IA, y; e) cooperar con la Comisión y las autoridades nacionales competentes. Con algunas excepciones en el caso de modelos de IA publicados bajo licencia libre y de código abierto.
Del mismo modo, además de las anteriores, las obligaciones adicionales para proveedores de modelos de IA de propósito general con riesgo sistémico, son: a) evaluar los modelos de conformidad con protocolos y herramientas normalizados que reflejen el estado de la técnica; b) evaluar y mitigar los posibles riesgos sistémicos a escala de la UE que puedan derivarse del desarrollo, la introducción en el mercado o el uso de modelos de IA de uso general con riesgo sistémico, así como el origen de dichos riesgos; c) vigilar, documentar y comunicar la información pertinente sobre incidentes graves y las posibles medidas correctoras para resolverlos, sin demora indebida, a la Oficina de IA y, en su caso, a las autoridades nacionales competentes; d) velar por que se establezca un nivel adecuado de protección de la ciberseguridad para el modelo de IA de uso general con riesgo sistémico y la infraestructura física del modelo, y; e) cooperar con la Comisión y las autoridades nacionales competentes.
(*) Modelos de IA con repercusiones considerables en el mercado de la UE debido a su alcance o a los efectos negativos reales o razonablemente previsibles en la salud pública, la seguridad, la seguridad pública, los derechos fundamentales o la sociedad en su conjunto, que puede propagarse a gran escala a lo largo de toda la cadena de valor.
