La Inteligencia Artificial (IA) se está integrando rápidamente en casi todos los ámbitos de nuestra vida diaria, procesando enormes volúmenes de datos personales y planteando importantes desafíos para nuestros derechos fundamentales.
Por eso, desde APDTIC queremos analizar a continuación cuáles son los principales riesgos asociados al uso masivo de la IA y cómo los afronta el marco normativo vigente.
1. Derecho a la privacidad y a la autodeterminación informativa
Llamamos autodeterminación informativa al control consciente sobre los propios datos personales, y esta se ve ampliamente amenazada por la IA, que normalmente recolecta y utiliza información sin el consentimiento y hasta sin el conocimiento del usuario.
La recopilación masiva de datos, incluidos datos sensibles relacionados con la salud, la biometría o las finanzas, aumenta el riesgo de que se produzcan filtraciones, espionaje y usos más allá del propósito inicial.
2. Transparencia, información y consentimiento
Muchos software de IA operan sin informar adecuadamente a los usuarios sobre cómo se recogen o usan sus datos. Un ejemplo es el caso de LinkedIn, una red social profesional de la que se ha conocido que ha utilizado los perfiles de sus usuarios para entrenar sistemas de IA sin consentimiento explícito.
3. Derechos de Protección de Datos
A nivel europeo, el RGPD (Reglamento General de Protección de Datos) garantiza los derechos ARCOPOL:
- Acceso
- Rectificación
- Oposición
- Supresión (también llamado “derecho al olvido”)
- Limitación al tratamiento
- Portabilidad
- No ser objeto de decisiones individualizadas automatizadas
Sin embargo, algunos modelos de IA pueden llegar a memorizar datos personales que luego pueden ser reproducidos, lo que plantea graves dilemas, como por ejemplo: ¿se convierten los propios modelos en datos personales?, ¿cómo se pueden ejercer esos derechos sobre la información embebida en un modelo?
4. Evaluación del impacto, minimización de datos y protección desde el diseño
El artículo 35 del RGPD obliga a realizar Evaluaciones de Impacto en la Protección de Datos (EIPD) cuando un tratamiento, como una IA, entraña riesgos elevados. Además, la minimización de datos y la protección “by design” y “by default” deben guiar en todo momento el desarrollo de IA.
5. Discriminación y sesgos algorítmicos
Los sistemas de IA pueden reproducir o incluso intensificar ciertos sesgos presentes en los datos de entrenamiento, y ello perjudica a los derechos de igualdad y no discriminación.
El problema es que, para comprobar si la IA discrimina (por ejemplo, por etnia o religión), habría que analizar precisamente esos datos sensibles, y el RGPD pone muchas limitaciones en este sentido. Por este motivo, algunos expertos plantean que deberían existir excepciones legales que permitan usar esos datos de manera controlada para auditar la IA sin cometer una infracción.
6. Vigilancia masiva e integridad digital
La IA promueve la vigilancia digital masiva y la recopilación de datos sin consentimiento, afectando a la dignidad y a la integridad digital del usuario. En estos casos, se vulnera un derecho emergente que reconoce la vida digital como parte esencial de la persona, manipulando o prediciendo el comportamiento individual.
Conclusión
En resumen, la llegada de la IA pone en riesgo derechos esenciales: la privacidad, la autodeterminación informativa, la no discriminación, la integridad digital y los mecanismos de control sobre los datos.
Concretamente, la AEPD ha advertido ya de que el análisis de datos sensibles, especialmente neurodatos o datos sanitarios, incrementará su carga de trabajo. Y también pondrá el foco en la supervisión de algoritmos que manejen datos biométricos.
La normativa vigente establece bases sólidas para protegerlos, mediante principios como la minimización, la transparencia, el diseño responsable y la evaluación de impacto. Sin embargo, los retos técnicos y de gobernanza exigen mayor vigilancia y que se desarrollen auditorías más eficaces.
BIBLIOGRAFÍA
- Impacto de la inteligencia artificial en el derecho a la intimidad y protección de datos personales
- Exploring privacy issues in the age of AI
- How the EU AI Act Supplements GDPR in the Protection of Personal Data
- Using sensitive data to prevent discrimination by artificial intelligence: Does the GDPR need a new exception?
- Protección de Datos recibió 19.000 reclamaciones en 2024
