Todos estamos al tanto de la importancia que está adquiriendo en todas las facetas de nuestras vidas la inteligencia artificial.
Hace unos días comentamos en este otro artículo de nuestro blog que la Unión Europea estaba trabajando en la aprobación de una nueva ley específica para regular esta novedosa tecnología. Se trataría de la primera normativa del mundo centrada en la inteligencia artificial, que cada vez avanza más rápido y deja al descubierto más riesgos. Aquí, vamos a comentar el que tiene que ver con un hecho del que se hicieron eco todos los medios de comunicación y que es realmente preocupante: el uso de fotografías de chicas menores de edad para convertirlas en desnudos con ayuda de una herramienta de IA.
¿Lo más preocupante? Que los autores del delito son, ellos también, menores de edad (tienen entre 12 y 14 años).
¿Qué ha ocurrido exactamente con los desnudos de la IA?
El caso se ha dado a conocer a raíz de la denuncia de la madre de una de las menores, que asegura que tanto su hija como otras niñas de Almendralejo y alrededores (Badajoz) han sido víctimas de esta práctica. Además, la denunciante cree que muchas de las fotografías se han podido subir a páginas para adultos y que se ha pedido dinero a algunas de las menores a cambio de retirarlas.
En consecuencia, los padres de estas niñas han decidido unirse y presentar una denuncia conjunta.
ClothOff, la app usada para desnudar a las menores
“Desnuda a una chica gratis”. Ese es el reclamo de Clothoff, la app que han utilizado los menores para publicar los desnudos de las niñas. Es una herramienta nueva pero que está ganando popularidad muy rápidamente, con más de 30.000 usuarios nuevos cada día, según sus creadores, que son anónimos.
Funciona de la siguiente manera: basta con subir una imagen real de una persona para que la IA la desnude. Esto se puede hacer hasta dos veces de manera gratuita, después hay que pagar para seguir usándola.
La aplicación avisa de que solo se pueden usar fotografías de personas que han prestado su consentimiento y que son mayores de edad. Pero, entonces, ¿cómo han conseguido usarla con niñas menores de edad y sin su permiso?
Un “fallo de del sistema” de la aplicación de inteligencia artificial
Es lo que argumentan los responsables de ClothOff, que prefieren no revelar su identidad. Aseguran que la app cuenta con un mecanismo capaz de detectar si quien aparece en las fotografías es menor de edad, pero que en el caso de Almendralejo consiguieron saltarse este filtro fusionando y cortando las imágenes de las chicas.
Aun así, aseguran que su sistema es seguro y que el foco se debe poner en los autores de los hechos y no en la tecnología que han empleado para llevarlos a cabo.
¿De quién es la responsabilidad?
Aparte de en estas declaraciones, en la aplicación queda también patente ese descargo de la responsabilidad por parte de ClothOff. Así, se amparan en que en ningún momento se reclama la propiedad del contenido ni se hace de él un uso comercial, y en que al usar la herramienta los usuarios están aceptando sus condiciones, entre las que se especifica que es el usuario el único responsable de un uso indebido del sitio.
La policía ya ha identificado a varios de los menores y, de confirmarse su implicación en los hechos, podrían tener que asumir ciertas consecuencias. Nuestro Código Penal castiga con hasta dos años de prisión el uso inadecuado de datos personales sin el consentimiento de su titular y menoscabando su integridad moral. Por otra parte, se podría tener en cuenta también la posibilidad de calificar lo acontecido como un delito de pornografía infantil, en cuyo caso la pena podría ascender hasta los 9 años de cárcel.
Sin embargo, hay que tener en cuenta que los autores son también menores de edad, razón por la cual no ingresarían en prisión, sino en un centro de menores.
La IA, llena de riesgos
Este que aquí hemos conocido es solo uno de los muchos riesgos ya conocidos de la inteligencia artificial y el que más en boca de todos está últimamente. Pero ¿qué podemos hacer para evitarlo? Tanto los creadores de la app como varios expertos en Derecho Digital reflexionan sobre ello, recordando que no se puede castigar a la tecnología, sino a quienes no la emplean como es debido.
Está claro que la IA se encuentra en su máximo esplendor: cualquier foto, nota de voz o vídeo puede procesarse y manipularse fácilmente. Además de manejar nuestros datos personales con la debida precaución, es necesario que se unifiquen los criterios en torno a los límites de la responsabilidad en este tipo de sucesos que, lamentablemente, todo apunta a que van a ser cada vez más frecuentes.
