Sitios España – Portal de Noticias y medios españoles Noticias de españa y del mundo.
Preocupación por el Uso de IA en Creación de Imágenes Sexualizadas
A medida que la inteligencia artificial se integra en las redes sociales, los casos de manipulación de imágenes sin consentimiento han aumentado, generando alarma en diversos países. La comunidad digital clama por soluciones efectivas.
Grok: La IA que Está en el Ojo del Huracán
Frases como “Grok, ponle un bikini” o “vístela con lencería sexy” han inundado la red social X, donde usuarios hacen peticiones a Grok, una herramienta de inteligencia artificial diseñada para generar y editar imágenes. Lo alarmante es que esta tendencia afecta mayormente a mujeres, pero también hay casos de hombres y menores involucrados.
Investigaciones y Reacciones Institucionales
Recientemente, España ha solicitado a su Fiscalía que investigue estas prácticas en torno a Grok, ante el temor de que se esté fomentando la pornografía infantil. La Comisión Europea, por su parte, ha dispuesto que se conserven todos los documentos relacionados con la herramienta hasta 2026.
Falta de Protección Legal
¿Los ‘deepfakes’ en el marco legal?
“No existe delito en solicitar a una IA que manipule una imagen”, advierte Belén Arribas. La abogada destaca que, aunque la nueva Directiva Europea plantea sanciones para la difusión no consentida de imágenes íntimas, en la actualidad, los ‘deepfakes’ no están tipificados en el Código Penal español.
Las Víctimas Tienen Opciones Legales
Las víctimas pueden recurrir a la vía civil o administrativa si encuentran que su imagen ha sido utilizada sin consentimiento. Arribas señala que pueden denunciar vulneraciones a su derecho al honor y solicitar indemnizaciones. Además, la Agencia Española de Protección de Datos (AEPD) cuenta con un Canal Prioritario para estos casos, que permite denunciar la difusión de imágenes sin consentimiento.
Un Caso Alarmante en Almendralejo
Un reciente escándalo en Almendralejo, donde adolescentes crearon y difundieron ‘deepfakes’ de compañeras menores, da cuenta de la gravedad del problema. El Juzgado de Menores en Badajoz ha declarado responsables a varios menores por pornografía infantil, y la AEPD impuso una multa a los padres de uno de los involucrados.
Responsabilidad Compartida
Sobre quién recae la responsabilidad en caso de denuncia, la abogada Laia Serra sostiene que tanto los usuarios como las plataformas deben asumir deberes de transparencia sobre el uso de inteligencia artificial. Esto incluye la correcta identificación de contenidos generados por IA para distanciar la ficción de la realidad.
El Impacto de la Violencia Digital
Efectos Reales en las Víctimas
La violencia digital tiene repercusiones tangibles en la vida de las personas afectadas, desde daños a la autoimagen hasta trastornos psicológicos severos. “Es vital que las víctimas reconozcan que lo que sienten es legítimo y busquen ayuda», aconseja Cruells.
Tensiones Emocionales y Psicológicas
Las víctimas pueden experimentar un amplio espectro de efectos negativos, como ansiedad, miedo a salir de casa y trastornos del sueño. La atención a estas señales es crucial para el actual contexto de violencia digital.
Opciones de Apoyo y Prevención
Existen recursos como Fem Bloc y SIE digital, especializados en ofrecer respaldo a quienes atraviesan situaciones de violencia digital. La línea 017 de Incibe también proporciona asistencia en ciberseguridad, un recurso valioso para las víctimas.
Reacciones de Usuarios de Redes Sociales
Mujeres en X han optado por requerir a la IA que no modifique sus imágenes, y en muchos casos, ha funcionado. Sin embargo, hay instancias en las que la IA ignora estas solicitudes, lo que provoca desasosiego entre las usuarias.
“La normalización de estas prácticas fomenta la cosificación de mujeres y menores, y perjudica directamente el derecho a la propia imagen”, concluye Arribas.
