Principales novedades legislativas sobre el nuevo Reglamento (UE) 2024/1689 sobre inteligencia artificial

El Parlamento Europeo ha aprobado el Reglamento (UE) 2024/1689 del Parlamento Europeo y del Consejo, de 13 de junio de 2024, por el que se establecen normas armonizadas en materia de inteligencia artificial, que entrará en vigor el próximo 1 de agosto de 2024 y será aplicable de manera progresiva hasta el 26 de agosto de 2026.

El objetivo de esta norma es fijar un marco normativo que garantice el buen funcionamiento de los sistemas de inteligencia artificial, estableciendo límites a aquellos sistemas de inteligencia artificial que generen riesgos para el mercado interior de la Unión Europea. Con esta norma la Unión Europea pretende convertirse en un referente mundial en el desarrollo de una inteligencia artificial que sea fiable y que proteja la seguridad y los derechos fundamentales de los ciudadanos europeos.

El Reglamento (UE) 2024/1689 cataloga los sistemas de inteligencia artificial en cuatro niveles de riesgo: riesgo inaceptable, alto riesgo, riesgo limitado y mínimo riesgo, estableciendo obligaciones reforzadas y mayores restricciones, cuanto más elevado es el riesgo del sistema.  

Asimismo, prohíbe las siguientes prácticas: 

• Técnicas subliminales, tales como estímulos de audio, imagen o vídeo que las personas no pueden percibir, o técnicas deliberadamente manipuladoras o engañosas que tengan por objeto alterar de manera sustancial el comportamiento de una persona o un colectivo de personas, mermando de manera apreciable su capacidad para tomar una decisión informada.
  
  

• Sistemas que exploten las vulnerabilidades de una persona física o de un colectivo de personas por su edad o su situación personal socioeconómica, con la finalidad de alterar el comportamiento de esa persona o colectivo.
  
  

• Sistemas de categorización biométrica basados en datos biométricos de las personas físicas, como la cara o las impresiones dactilares de una persona física, para deducir o inferir sus opiniones políticas, convicciones religiosas, su orientación sexual física, excluyéndose el etiquetado, el filtrado y la categorización lícitos de conjuntos de datos biométricos. Es decir, se prohíben los sistemas que permiten llevar a cabo una puntuación ciudadana. 
  
  

• Sistemas de predicción de potencial criminalidad para realizar evaluaciones de riesgos de personas físicas con el fin de valorar o predecir el riesgo de que una persona física cometa un delito basándose únicamente en la elaboración del perfil de una persona física o en la evaluación de los rasgos y características de su personalidad.
  
  

• Sistemas de identificación biométrica remota en tiempo real en espacios de acceso público con fines policiales. 
  
  

• Bases de datos mediante reconocimiento facial masivo que creen o amplíen bases de datos de reconocimiento facial mediante la extracción no selectiva de imágenes faciales de internet o de circuitos cerrados de televisión.
  
  
  

• Sistemas que infieran en las emociones de una persona física en los lugares de trabajo y en los centros educativos, o detecten el estado emocional de las personas en estos ámbitos, excepto cuando el sistema de inteligencia artificial esté destinado a ser instalado o introducido en el mercado por motivos médicos o de seguridad.
  
  

Asimismo, el Reglamento (UE) 2024/1689 e impone obligaciones de transparencia para los sistemas de IA que interactúan con personas, debiendo informar a los usuarios que están interactuando con un sistema de inteligencia artificial.

Otra de las novedades de esta norma, es el establecimiento de multas y sanciones significativas en caso de incumplimiento de las previsiones del Reglamento, con sanciones que pueden alcanzar hasta los 35 millones de euros o el 7% del volumen de negocios anual mundial para infracciones relacionadas con las prácticas catalogadas como prohibidas por el Reglamento.