Urge Frenar las Imágenes Sexualizadas de Grok: La Carrera Contrarreloj

Urge Frenar las Imágenes Sexualizadas de Grok: La Carrera Contrarreloj

Bruselas Intensifica la Regulación sobre X: La Investigacion que Sacude a la Red Social de Elon Musk

La Comisión Europea ha dado un paso firme contra X, la plataforma de Elon Musk, al abrir una investigación sobre su chatbot Grok, en medio de un creciente escándalo por deepfakes sexualizados que amenazan la seguridad digital.

La Alarma de Bruselas ante los Deepfakes

La Comisión Europea ha intensificado su vigilancia sobre las grandes tecnológicas, centrándose esta vez en X. Este lunes, se formalizó una investigación que indaga sobre Grok, el chatbot de inteligencia artificial generativa de la plataforma, cuyo funcionamiento ha dado lugar a serias preocupaciones.

Una Oleada de Contenidos Ilegales

La decisión de Bruselas responde a un alarmante aumento en la circulación de deepfakes de carácter sexual, imágenes generadas sin consentimiento de los involucrados. Este fenómeno representa un desafío directo a la Ley de Servicios Digitales (DSA) de la Unión Europea.

Impacto Social y Estadísticas Preocupantes

La magnitud del problema es evidente. Un informe del Center for Countering Digital Hate (CCDH) estima que en solo once días, Grok pudo haber creado hasta tres millones de imágenes sexuales no consentidas, incluyendo al menos 23.000 que involucran a menores de edad. Este dato pone de manifiesto la seriedad de la situación.

Conexiones con Contenido Ilegal

Fuentes comunitarias subrayan que existen vínculos claros entre Grok y una variedad de contenidos ilegales, que incluyen imágenes de menor edad y material relacionado con violencia contra las mujeres. La preocupación se extiende al impacto en la salud mental de las víctimas.

El Rol de Grok en la Plataforma

Grok, introducido en 2024, permite la generación de texto, imágenes y el contexto de publicaciones en X. Según la DSA, plataformas de gran tamaño como esta deben evaluar y mitigar los riesgos asociados con contenido ilegal y la protección de menores.

Declaraciones de Ursula von der Leyen

La presidenta de la Comisión Europea, Ursula von der Leyen, advirtió: «No dejaremos en manos de las empresas tecnológicas la protección infantil, ni permitiremos que vulneren el consentimiento». La gravedad del problema se necesita abordar a fondo.

Investigación y Consecuencias Potenciales

La Comisión prosigue con la recopilación de pruebas y tiene la capacidad de implementar medidas provisionales si no se observan «ajustes significativos» en los servicios de X. Esto podría incluir modificaciones a los algoritmos o incluso el cierre del chatbot.

Riesgos para la Compañía

Si se confirman las infracciones, X enfrentará un proceso que incluye la posibilidad de multas que podrían ascender hasta el 6% de su facturación global anual. Además, la investigación actual se suma a un análisis ya abierto en 2023 sobre los algoritmos de recomendación bajo el control de Grok.

Tensión Diplomática entre Bruselas y Washington

La apertura de esta investigación se produce en un contexto de alta tensión entre la Unión Europea y Estados Unidos. La administración de Trump ha criticado previamente las sanciones, acusando al bloque de usar la DSA como un mecanismo proteccionista.

Te puede interesar >>>

Investigación canónica contra sacerdote del Obispado de Urgel por acusaciones de abuso

Investigación canónica contra sacerdote del Obispado de Urgel por acusaciones de abuso

El Obispado de Urgel inicia investigación por denuncias de abusos sexuales a un sacerdote Un …