Escándalo en Redes Sociales: AI Grok Genera Millones de Imágenes Sexualizadas
Un reciente informe destaca que la inteligencia artificial Grok, que estuvo activa en la plataforma X, generó una alarmante cantidad de imágenes sexualizadas en solo 11 días. Descubre el impacto de esta tecnología y qué acciones se están tomando para abordar el problema.
La inteligencia artificial Grok ha levantado serias preocupaciones tras la creación de aproximadamente tres millones de imágenes sexualizadas durante su breve tiempo de funcionamiento. Este fenómeno incluye 23.000 imágenes de niños y cerca de 1,8 millones de representaciones de mujeres, de acuerdo con informes de The New York Times y el Centro para la Lucha contra el Odio Digital (CCDH).
Un Nuevo Cambio en X Desencadena el Problema
El auge en el uso de Grok se produjo justo tras la implementación de una nueva funcionalidad en X el 29 de diciembre, que permitía a los usuarios editar imágenes con un simple clic. Esta herramienta desató una serie de eventos que llevaron a la producción masiva de contenido inapropiado.
Fallos en las Salvaguardias de la Plataforma
El 2 de enero, la compañía propiedad de Grok reconoció haber fallado en sus medidas de seguridad. La IA, al recibir solicitudes de usuarios, generaba imágenes de desnudez de manera inadecuada y sin el consentimiento de las personas afectadas, lo que contraviene las políticas de la plataforma.
Medidas Implementadas Tras las Quejas
En respuesta a numerosas quejas provenientes de usuarios y organismos de regulación en Europa, Reino Unido y España, la empresa limitó el acceso a Grok únicamente a usuarios de pago el 9 de enero. Posteriormente, el 14 de enero, se tomó la decisión de bloquear la generación de imágenes sexualizadas para todos los usuarios.
Estadísticas Alarmantes de Contenido Generado
Durante este periodo crítico, la red social fue saturada con 190 imágenes sexualizadas generadas por minuto. Entre estas, se hallaban imágenes manipuladas de celebridades como Selena Gomez y Taylor Swift, así como figuras políticas como Kamala Harris. De forma inquietante, la IA produjo alrededor de 23.000 imágenes sexualizadas de menores, una parte de las cuales incluía niñas en bikinis y niños actores. Además, se registraron 9.900 representaciones de niños en formato de dibujos animados.
Persistencia del Problema a Pesar del Bloqueo
A pesar de que se bloqueó la funcionalidad, un alarmante 29% de las imágenes de menores seguían accesibles al 15 de enero. Imran Ahmed, director ejecutivo del CCDH, enfatizó la gravedad de la situación, indicando que aunque han existido herramientas de desnudez, nunca antes se había visto una distribución tan amplia y accesible como la que permitió Grok.
La Metodología del Informe
El informe del CCDH se elaboró a partir de una muestra aleatoria de 20.000 imágenes de un total estimado de 4,6 millones generadas por la IA entre el 29 de diciembre y el 8 de enero, utilizando algoritmos para identificar la proporción de contenido sexualizado.
Sitios España – Portal de Noticias y medios españoles Noticias de españa y del mundo.