¿Dónde puedo denunciar contenidos ilegales generados con IA?

La inteligencia artificial generativa ha abierto un escenario lleno de oportunidades, pero también de riesgos legales. Cada vez es más habitual encontrar imágenes manipuladas, textos falsos atribuidos a terceros, voces clonadas o contenidos creados mediante IA que vulneran derechos fundamentales, derechos de autor o normativa de protección de datos.

Y ante esta situación, muchas personas se hacen la misma pregunta: ¿dónde se puede denunciar un contenido generado por IA que parece ilegal?

En este artículo, analizamos cuáles son las principales opciones y qué conviene tener en cuenta antes de denunciar.

¿Qué tipo de contenido generado por IA puede ser ilegal?

Gran parte de estas herramientas pueden utilizarse de forma legítima y conforme a la normativa vigente. Pero el problema aparece cuando la IA se emplea para fines como los siguientes:

Suplantar identidades.
Crear deepfakes sin consentimiento.
Difundir información falsa o manipulada.
Vulnerar derechos de autor.
Tratar datos personales de forma ilícita.
Generar contenido discriminatorio o difamatorio.
Crear imágenes sexuales falsas de personas reales.
Automatizar decisiones con impacto legal o significativo sobre personas.

Hay que recordar que la propia Agencia Española de Protección de Datos (AEPD) lleva tiempo advirtiendo sobre los riesgos asociados a los malos usos de la IA generativa, especialmente cuando existe tratamiento de datos personales o falta de transparencia.

Además, el Reglamento Europeo de Inteligencia Artificial introduce nuevas obligaciones y prohibiciones específicas para ciertos sistemas de IA considerados de riesgo inaceptable.

¿Dónde denunciar contenido generado por IA?

La respuesta a esta pregunta no siempre es sencilla, porque depende del tipo de contenido, del daño causado y de la normativa que pueda estar vulnerándose. Pero, en general, estos son los canales disponibles actualmente:

1. La AEPD

La AEPD es una de las principales autoridades a las que acudir en nuestro país cuando el contenido generado por IA implique un uso indebido de datos personales. De hecho, la propia AEPD ya ha investigado herramientas de IA generativa como ChatGPT por posibles incumplimientos del RGPD.

La reclamación puede presentarse a través de la sede electrónica de la AEPD, aportando capturas del contenido, enlaces, la identificación de la plataforma, la explicación del perjuicio causado y todas las evidencias disponibles.

2. Las propias plataformas y redes sociales

Muchas veces, la vía más rápida no es inicialmente judicial ni administrativa, sino la denuncia interna dentro de la propia plataforma en la que se detecte el contenido que se pretende denunciar.

En este sentido, has de saber que las redes sociales más utilizadas en España (X, Instagram, YouTube, TikTok…) ya cuentan con mecanismos específicos para denunciar deepfakes, suplantaciones, contenido manipulado, pornografía no consentida, desinformación y vulneraciones de derechos de autor.

Las redes sociales están reforzando sus obligaciones de transparencia y moderación debido a la normativa europea sobre servicios digitales y al futuro despliegue completo del Reglamento de IA.

3. Fuerzas y cuerpos de seguridad

Si crees que el contenido generado con IA puede constituir un delito, es recomendable acudir directamente a las autoridades policiales o judiciales. Nos referimos, por ejemplo, a estos casos:

Estafas mediante clonación de voz.
Pornografía infantil generada con IA.
Amenazas o acoso.
Suplantación grave de identidad.
Difusión de contenido sexual falso sin consentimiento.

En este tipo de situaciones pueden intervenir Policía Nacional, Guardia Civil o los juzgados competentes.

4. Oficina de Propiedad Intelectual o vía civil

Ahora bien, si el problema afecta a derechos de autor o propiedad intelectual, la vía puede ser distinta. En estos casos, puede ser necesario acudir a reclamaciones civiles o procedimientos mercantiles:

Uso de obras protegidas para entrenar IA sin autorización.
Generación de contenido que reproduce obras protegidas.
Uso comercial indebido de creaciones ajenas.

No obstante, la dificultad jurídica aquí sigue siendo elevada, porque la normativa todavía está evolucionando y el debate aún está abierto.

5. AI Act Whistleblower Tool de la Unión Europea

Además de todo lo anterior, la Unión Europea también ha puesto en marcha un canal específico para denunciar posibles incumplimientos. Se trata de AI Act Whistleblower Tool, un canal confidencial y seguro pensado especialmente para que personas que tengan relación profesional con proveedores o desarrolladores de sistemas de IA pueden denunciar posibles infracciones de la ley de inteligencia artificial, especialmente aquellas que puedan afectar a derechos fundamentales, seguridad, salud pública, transparencia o confianza pública.

Aunque esta vía no sustituye necesariamente a las autoridades nacionales, como la AEPD o los tribunales, sí representa un nuevo mecanismo europeo especializado para detectar incumplimientos relacionados con IA de forma temprana.

¿Qué conviene hacer antes de denunciar?

Antes de presentar una reclamación, es importante:

Conservar pruebas: el contenido puede eliminarse rápidamente. Por eso, conviene guardar capturas de pantalla, enlaces, vídeos o archivos originales y todas las conversaciones relacionadas.
Identificar el tipo de infracción: no es lo mismo una vulneración de protección de datos que un delito penal o una infracción de propiedad intelectual.
Valorar el alcance del daño: hay que analizar si existe difusión pública, daños a la reputación, ánimo económico, menores implicados o automatización de decisiones.
Buscar asesoramiento jurídico: para determinar correctamente el marco legal, asegurar que las acciones que se tomen queden protegidas por la ley y determinar cuidadosamente qué canal de denuncia es el más apropiado para cada situación específica.

Conclusión

La inteligencia artificial no está al margen de la ley. Aunque el marco regulatorio todavía continúa desarrollándose, ya existen mecanismos para denunciar contenidos generados mediante IA cuando vulneran derechos o incumplen la normativa. La clave está en identificar correctamente el problema y acudir al organismo competente en cada caso.

En un entorno donde la IA avanza más rápido que su regulación, contar con asesoramiento especializado resulta cada vez más importante para minimizar riesgos legales y garantizar un uso responsable de estas tecnologías.

BIBLIOGRAFÍA

X (Twitter) Facebook LinkedIn