Toda la tecnología que engloba a la inteligencia artificial (IA) evoluciona de una forma imparable, proporcionando un gran número de beneficios en un sinfín de sectores, pero también exponiéndonos a ciertos riesgos que es necesario conocer.
Ya estamos siendo testigos de la forma en que determinados usos y aplicaciones de las herramientas de IA son capaces de dañar el interés público e incluso de atentar contra los derechos fundamentales de las personas. Recordemos, por ejemplo, los falsos desnudos de menores de edad que proliferaron en el caso ClothOff. Aquí estamos ante unos riesgos personales y limitados, pero, a medida que avance la IA, dichos riesgos puedan ser más generalizados y afectar a áreas tan sensibles como la seguridad física de las personas.
Diferentes niveles de riesgo de la IA, según la UE
La nueva ley en la que se está trabajando desde la Unión Europea (UE), pionera en esta cuestión, prevé tres diferentes niveles de riesgo según los cuales se clasificarían todas las soluciones de IA:
1. Riesgo inaceptable
Engloba aquellas prácticas que deben estar prohibidas por atacar directamente a la seguridad e integridad de las personas. Son las técnicas cuyo potencial para manipularnos sin permitirnos ser conscientes de ello es demasiado grande, como pueden ser:
- Los sistemas de identificación biométrica que funcionan en remoto.
- Los sistemas capaces de reconocer las emociones humanas.
- Las bases de datos de reconocimiento facial.
Con estas tecnologías nos exponemos a usos intrusivos y discriminatorios de la IA, pudiendo llegar a ver vulnerados nuestros derechos humanos y nuestro derecho a la intimidad.
2. Riesgo alto
Sin cruzar los límites que alcanzan las prácticas de riesgo inaceptable, las de riesgo alto pueden llegar a afectar significativamente también nuestros derechos y nuestra seguridad. Aquí son especialmente críticas las siguientes áreas:
- Los transportes.
- La educación.
- La salud.
- El empleo.
- Los servicios públicos esenciales.
- La migración.
- La justicia.
3. Riesgo limitado
Se contemplan aquí los requisitos mínimos que debe cumplir toda aplicación de la IA para un uso general. Así, los desarrolladores de las nuevas herramientas que vean la luz en este campo, como ChatGPT, tendrán que asegurarse de evaluar sus posibles riesgos y mitigarlos de acuerdo a las nuevas directrices de la UE. Es decir, ofreciendo la suficiente transparencia y evitando cualquier ilegalidad.
De esta forma, con esta clasificación de los diferentes riesgos de la IA, se pretende dar cobertura y proteger los derechos de los ciudadanos en este contexto. Sin embargo, aunque es un buen avance, ello no quiere decir que la propuesta esté exenta de lagunas como estas:
- La arbitrariedad de la categorización de los riesgos, que no cuenta con una base jurídica.
- El hecho de no valorar la existencia o no de intencionalidad.
- La falta de precisión en muchos requisitos incluidos en el reglamento.
- La ambigüedad que puede existir entre las posturas de la Comisión Europea, el Consejo Europeo y el Parlamento Europeo, respectivamente.
- La previsible falta de coordinación y armonización de criterios entre los distintos estados miembro, que no contarían aún con un órgano supervisor (ya que el Consejo Europeo de la IA no puede tomar decisiones vinculantes).
Aun así, la UE contempla para las empresas que incumplan el futuro reglamento multas de hasta 30 millones de euros.
No todo es negativo: la IA también nos reporta enormes beneficios
No queremos centrarnos únicamente en la parte negativa de este asunto (aunque, indudablemente, es la que más nos preocupa), por eso no debemos olvidar que la IA también lleva aparejados un buen número de beneficios en muchos sentidos. Por ejemplo, proporciona ventajas competitivas a las empresas y permite mejorar parámetros sociales y medioambientales. De hecho, son muchos los sectores que ya se están beneficiando de su aplicación:
- Asistencia sanitaria.
- Seguridad alimentaria.
- Agricultura.
- Educación y formación.
- Deportes.
- Medios de comunicación.
- Cultura.
- Energía e infraestructuras.
- Conservación de la biodiversidad.
Ahora bien, precisamente para aprovechar correctamente estas ventajas y no dejar que se vean empañadas por la multitud de riesgos que se esconden tras la IA, es necesario que definamos bien los valores legales y humanos que queremos que imperen frente al imparable crecimiento de la tecnología.
