El pasado 2 de febrero marcó un hito en la regulación internacional de la inteligencia artificial (IA) y, en particular, en la Unión Europea. Desde esta fecha, son exigibles las primeras disposiciones vinculantes del Reglamento Europeo de IA (AI Act), un marco jurídico pionero que busca garantizar el uso seguro, ético y transparente de este conjunto de tecnologías. Estas normas no son meras recomendaciones: su incumplimiento podría conllevar alta sanciones económicas y riesgos reputacionales críticos para empresas y organizaciones.
¿Qué obligaciones ya son exigibles?
Desde el 2 de febrero, dos pilares del Reglamento son de aplicación inmediata:
1. Prácticas de IA prohibidas (Capítulo II). Quedan totalmente vetados los sistemas de IA que:
– Tengan como objetivo o comporten manipular subliminalmente el comportamiento humano para causar daño físico o psicológico.
– Exploten vulnerabilidades de grupos sensibles (niños, personas con discapacidad) para manipular su comportamiento de manera perjudicial.
– Realicen “social scoring”.
– Evalúen el riesgo de comisión de delitos basándose únicamente en perfiles o rasgos de personalidad.
– Categoricen y clasifiquen individualmente a personas físicas basándose en sus datos biométricos para deducir o inferir su raza, opiniones políticas, afiliación sindical, creencias religiosas o filosóficas, vida sexual u orientación sexual
– Identificación biométrica remota de personas en tiempo real y en espacios de acceso público con fines de garantía de aplicación del ordenamiento jurídico
– Creen o amplíen bases de datos de reconocimiento facial mediante internet (web scraping) o CCTV.
– Infieran emociones en entornos laborales o educativos, salvo excepciones médicas o de seguridad.
Estos sistemas se consideran de riesgo inaceptable y la responsabilidad inicial sobre los mismos recae en desarrolladores, proveedores y distribuidores, sin perjuicio de la que pueda recaer en las entidades usuarias de este tipo de sistemas.
No obstante, algunos de ellos están sujetos a algunas excepciones y, además, NO SON LOS ÚNICOS. También están prohibidos todos aquellos que sean contrarios a cualquier otro marco legal de la UE y, en este sentido, por ejemplo, la Sentencia del TJUE de 7 de diciembre de 2023, antes de que se aprobara y publicara el Reglamento IA de la UE, ya declaró la ilegalidad de los sistemas algorítmicos públicos de scoring social.
La Comisión acaba de publicar hoy, 4 de febrero, sus Directrices sobre prácticas de inteligencia artificial prohibidas, aunque no las ha adoptado formalmente, lo que llevará a cabo cuando estén disponibles todas las versiones lingüísticas, momento a partir del cual serán aplicables.
2. Alfabetización en IA (Artículo 4)
Todas las empresas que operen en la UE como proveedoras o entidades usuarias (responsable del despliegue del sector público o privado) de cualquier sistema inteligente deben garantizar que su personal involucrado en el funcionamiento y uso del mismo, posea conocimientos suficientes y adecuados a su perfil sobre IA. Esto incluye desde ingenieros hasta equipos de RRHH que utilicen herramientas de reclutamiento asistidas por IA.
La Comisión Europea acaba de publicar hoy, 4 de febrero, un conjunto de prácticas para el fomento del aprendizaje y el intercambio sobre alfabetización en IA, exigida por el artículo 4 del Reglamento IA de la UE. El repositorio elaborado por la Oficina Europea de IA se irá actualizando, y constituye una primera base de referencia para el cumplimiento de esta obligación que afecta a desarrolladores, proveedores y entidades usuarias, sean del sector público o privado.
