El instrumento propuesto requerirá una lectura y análisis pausado, si bien, significar que el mismo contempla las entidades encargadas de vigilar los sistemas prohibidos desde el pasado 2 de febrero (AEPD para biometría y fronteras, CGPJ para Justicia, Junta Electoral Central en procesos democráticos y AESIA para el resto). Además, designa las entidades de vigilancia de los sistemas de alto riesgo, adicionando a las anteriores el Banco de España, la CNMV o la Dirección General de Seguros.
Destacar especialmente la regulación de infracciones y sanciones.
Según el texto publicado, se entenderá como una infracción muy grave cuando el operador de un sistema de IA no comunique un incidente grave (como la muerte de una persona, un daño que haya comprometido una infraestructura crítica o un daño al medio ambiente), o cuando incumpla las órdenes de una autoridad de vigilancia de mercado. Las sanciones en este caso oscilarán entre los 7,5 y los 15 millones de euros o hasta el 2% y el 3% del volumen de negocio mundial del ejercicio anterior.
Algunos ejemplos de infracciones graves son el no introducir supervisión humana en un sistema de IA que incorpore la biometría en el trabajo para controlar la presencialidad de los trabajadores o no disponer de un sistema de gestión de calidad en robots con IA que desarrollan las tareas de inspección y mantenimiento en sectores industriales, entre otros. Las sanciones oscilarán en estos casos entre 500.000 euros y 7,5 millones de euros o entre el 1% y el 2% del volumen de negocio mundial.
También se considerará como una infracción grave no cumplir con la obligación de etiquetar correctamente cualquier imagen, audio o vídeo generado o manipulado con IA y que muestren a personas reales o inexistentes diciendo o haciendo cosas que nunca han hecho o en lugares donde nunca han estado, lo que constituye una ultrasuplantación (deepfake). Estos contenidos deberán identificarse como contenidos generados por IA “de manera clara y distinguible a más tardar con ocasión de la primera interacción o exposición”, tal y como especifica el Reglamento IA de la UE.
Más información: https://digital.gob.es/comunicacion/sala-de-prensa/comunicacion_ministro/2025/03/2025-03-11.html
