Malasia e Indonesia cierran el acceso a Grok; Bruselas exige controles

Malasia e Indonesia cierran el acceso a Grok; Bruselas exige controles

Bloqueo Global a Grok: La IA que Genera Controversia por Deepfakes Sexualizados

La preocupación por el uso indebido de la inteligencia artificial ha llevado a Indonesia y Malasia a prohibir el acceso a Grok, una herramienta que ha sido utilizada para crear imágenes engañosas y sexualizadas sin consentimiento.

El Auge de los Deepfakes y la Respuesta Internacional

Desde que Elon Musk limitó el uso de generación de imágenes en Grok a suscriptores pagos, la situación no ha mejorado. Miles de usuarios han abusado de la herramienta para crear contenidos inapropiados, incluidos desnudos de mujeres y menores.

Medidas drásticas en Indonesia y Malasia

Indonesia se ha convertido en el primer país en bloquear Grok, seguido por Malasia, que ha tomado una actitud similar en respuesta a la difusión de imágenes perturbadoras. La Comisión de Comunicaciones y Multimedia de Malasia anunció su decisión, resaltando la necesidad de proteger a mujeres y niños de contenidos no consensuados y ofensivos.

Falta de Salvaguardias Efectivas

El país asiático había instado a X a implementar medidas de moderación para evitar la creación de contenido ilegal. Sin embargo, la respuesta de Musk fue insuficiente, al ofrecer solo mecanismos de denuncia gestionados por los usuarios.

Respuestas de Europa

La Comisión Europea ha declarado que la generación de este tipo de contenido es «atroz» e «ilegal», advirtiendo que cualquier limitación en el uso de Grok no aborda la preocupación central: la creación de imágenes dañinas. Bruselas también ha demandado que la empresa mantenga registros de toda la documentación relativa a esta herramienta hasta finales de 2026.

Implicaciones Globales y Multas

La situación de Grok ha tenido un efecto dominó, extendiéndose a Occidente. En el Reino Unido y Francia, las autoridades han tomado medidas enérgicas contra el uso irresponsable de la herramienta. En España, el Ministerio de Juventud ha solicitado investigaciones sobre la difusión de contenido de abuso infantil.

Ritmo Alarmante de Creación de Contenidos

Grok se ha convertido en una de las mayores fuentes de deepfakes sexuales, generando alrededor de 6.700 imágenes por hora, según informes. Eso plantea serias preocupaciones sobre la capacidad de las plataformas para controlar el contenido generado por inteligencia artificial.

Te puede interesar >>>

Ataque armado en Cracovia: al menos 5 muertos y decenas de heridos

Ataque armado en Cracovia: al menos 5 muertos y decenas de heridos

Tragedia en Cracovia: Tiroteo deja cinco muertos y varios heridos Un ataque armado en la …