El pasado 13 de junio el Parlamento Europeo aprobó, tras meses de negociaciones con los distintos países, el Reglamento de Inteligencia Artificial (RIA). En este artículo te contamos sus puntos clave y las principales implicaciones para las empresas de toda la Unión Europea.
El nuevo Reglamento de Inteligencia Artificial y sus objetivos
El texto se aprueba con una clara finalidad, la de crear un marco jurídico uniforme en toda la UE para poder desarrollar y usar los sistemas de inteligencia artificial en base a dos premisas fundamentales:
- La promoción de una IA fiable y centrada en el ser humano.
- La garantía de la libre circulación de servicios y mercancías basados en esta tecnología.
Para velar por el cumplimiento de estos objetivos, la AESIA (Agencia Española de Supervisión de la Inteligencia Artificial) cobra en nuestro país un papel muy importante, similar al que ya tiene desde hace años la AEPD en materia de protección de datos.
Igualmente, se establecen los siguientes perfiles clave en relación con el desarrollo y la implantación de sistemas de IA:
- Proveedores.
- Responsables de despliegue.
- Importadores.
- Distribuidores.
- Representantes autorizados.
- Fabricantes.
¿Qué implicaciones tiene para las empresas?
Para entender cómo va a afectar el reglamento europeo a las empresas relacionadas con esta actividad, lo primero es distinguir entre los diferentes niveles de riesgo en los sistemas de IA.
En concreto, se ha puesto el foco en los calificados como de alto riesgo y de riesgo inaceptable. Estos últimos quedan terminantemente prohibidos, y son los siguientes:
- La identificación biométrica en tiempo real y la categorización biométrica, en algunos casos.
- Las técnicas subliminales dirigidas a manipular el comportamiento humano.
- La explotación de las vulnerabilidades de determinadas personas (niños, personas con discapacidad, etc.).
- El reconocimiento de emociones en centros educativos y de trabajo.
- La elaboración de perfiles para evaluar el riesgo de cometer un delito.
- La creación de bases de datos de reconocimiento facial.
- La evaluación de colectivos o personas según su comportamiento o sus características personales.
Por su parte, los sistemas de alto riesgo los encontramos en 8 sectores clave: biometría, educación, empleo, servicios esenciales, migración, infraestructuras, administración de justicia y aplicación del derecho. En estos supuestos, los sistemas de IA se van a poder utilizar, siempre y cuando se cumplan una serie de requisitos:
- Asegurar la supervisión humana.
- Seguir a rajatabla las instrucciones del proveedor del sistema de IA.
- Evaluar si los datos de entrada son adecuados en función del uso que se haya previsto.
- Analizar el impacto en los derechos fundamentales.
- Si se produce un fallo en el funcionamiento del sistema, informar inmediatamente al responsable.
- Si es posible, almacenar todos los datos registrados.
Los requisitos de transparencia
Para el resto de sistemas de IA de uso general, como ChatGPT, se exigen tan solo unos criterios de transparencia, básicamente relacionados con los derechos de autor. Así, la IA generativa deberá dejar constancia del contenido creado mediante IA, evitar que se generen contenidos que incumplan la ley y publicar la relación de los datos que se han utilizado y que están protegidos por derechos de autor.
Las sanciones
Quienes incumplan cualquiera de los puntos previstos en el nuevo reglamento se enfrentarán a importantes sanciones económicas, que varían en función del riesgo:
- Alto riesgo: multa de hasta 15 millones de euros o equivalente al 3% del negocio.
- Riesgo inaceptable: multa de hasta 35 millones de euros o equivalente al 7% del negocio.
¿Cuándo entra en vigor el reglamento?
La aplicación se va a producir de manera paulatina, de modo que su total implantación no tendrá lugar hasta pasados varios meses desde la aprobación. Este es, en resumen, el calendario:
- 6 meses para la eliminación de los sistemas cuyos riesgos se consideren inaceptables.
- 9 meses para la aplicación de los códigos de buenas prácticas.
- 12 meses para los requisitos de transparencia de los sistemas de bajo riesgo.
- 36 meses para las obligaciones que conciernen a los sistemas de riesgo alto.
Además, la legislación incluye la puesta a disposición por parte de pymes y startups de las herramientas necesarias para facilitar el desarrollo de sistemas de IA en entornos seguros y con todas las garantías, al mismo tiempo que facilita que los usuarios puedan presentar reclamaciones si consideran que se están vulnerando sus derechos o se está incumpliendo algún punto concreto del reglamento.
