Hace unos meses ya adelántabamos en nuestro blog que la primera ley de inteligencia artificial en Europa estaba muy cerca de ser una realidad. Y ahora hemos conocido que, después de varios días de negociaciones, el Parlamento Europeo y los Estados miembro han alcanzado un acuerdo histórico para establecer las normas que regirán la inteligencia artificial (IA) a partir de 2026, cuando está previsto que se ratifique el acuerdo de manera definitiva.
¿Por qué hace falta una ley para regular el uso de la IA?
Por todos son conocidos los riesgos que entraña la IA, por eso los responsables del acuerdo creen que esta ley es imprescindible para proteger los derechos fundamentales de los ciudadanos europeos, entre ellos, especialmente, el derecho a la privacidad y a la protección de los datos personales. Con su aprobación, pretenden convertirla en un referente para otras regiones del mundo que todavía no han dado este paso tan importante para salvaguardar los valores comunitarios.
Ahora bien, que exista consenso en cuanto a la necesidad de crear y aprobar la ley de IA no quiere decir que haya sido fácil llegar a este principio de acuerdo. De hecho, fueron necesarias hasta 36 horas de intensas negociaciones para llegar a un punto común sobre dos cuestiones fundamentales:
- Qué puede considerarse un riesgo y qué no.
- Qué excepciones se deben plantear para no perjudicar demasiado los intereses económicos y, a la vez, garantizar los derechos fundamentales.
Finalmente, y a falta de conocer la versión definitiva del texto, todas las partes se han mostrado satisfechas por el equilibrio alcanzado, que en su opinión logrará impulsar la innovación de una manera compatible con los derechos de los ciudadanos.
Algunos detalles que ya se conocen de la nueva ley
Siempre según las palabras de los propios participantes en las negociaciones europeas, se trata de una novedosa norma que aporta certeza técnica y legal y que ahorrará a las empresas una gran cantidad de acciones legales. Además, para que no se quede en papel mojado la ley prevé un potente sistema de sanciones que contempla dos posibilidades según el tipo de infracción y el tamaño de la empresa:
- Multas de entre 7,5 y 35 millones de euros.
- Multas equivalentes a un porcentaje del negocio, que puede oscilar entre el 1,5 y el 7%.
Para asegurar que se cumplen y ejecutan estas sanciones, se ha optado por la creación de una oficina de IA, independiente y asesorada por una representación de la sociedad civil y un panel de científicos.
A continuación, se detallan cuáles fueron los puntos más espinosos de la negociación, por su gran relevancia y repercusión:
La IA generativa (ChatGPT o Bard)
Lo fundamental aquí es que estos modelos van a tener que cumplir con unos criterios mínimos de transparencia. Por ejemplo, para cualquier texto, canción o imagen generada con IA se tendrá que indicar que se ha creado con esta tecnología. Y habrá que garantizar siempre que los datos empleados respetan los derechos de autor.
Por tanto, no queda prohibido el uso de herramientas como ChatGPT o Bard, pero sí se obliga a sus creadores a cumplir ciertos criterios antes de que vean la luz.
Los sistemas biométricos de vigilancia (reconocimiento facial o por huella dactilar)
En muchos casos, la supervisión y el control que permiten los sistemas biométricos choca frontalmente contra los derechos fundamentales del ciudadano, por eso se han aprobado algunas líneas rojas al respecto. Quedan prohibidos, pues, los métodos de categorización biométrica, los sistemas para crear bases de datos, el reconocimiento de emociones en el entorno laboral y los sistemas capaces de manipular el comportamiento o aprovechar vulnerabilidades.
Por el contrario, las fuerzas del orden sí podrán emplear estos mecanismos, aunque de forma limitada y bajo autorización judicial, a menos que sean necesarios para la prevención de amenazas o para la búsqueda de víctimas en peligro.
Grabaciones audiovisuales en espacios públicos
Otra parte controvertida de las negociaciones ha sido la referente a los sistemas callejeros de grabación de imágenes, que solo van a poder usarse en casos excepcionales, como las amenazas terroristas o la identificación de criminales.
Una norma pionera en el mundo
Ninguna otra región del planeta ha comenzado a establecer reglas para el uso de la IA, por eso para los impulsores de esta ley europea se trata mucho más que de un conjunto de normas. La consideran un marco de referencia para los investigadores y empresas del continente y ayudará a Europa a liderar la carrera mundial por la IA de forma confiable, responsable y vanguardista.
Solo nos queda esperar para saber con exactitud cómo será el el contenido exacto de esta nueva norma y de qué forma se aplicará en el conjunto de la Unión Europea.
