Alerta por Contenidos Inapropiados: La IA de Grok bajo la Mira
La inteligencia artificial Grok, de la red social X, enfrenta serias acusaciones por la generación de imágenes no consensuadas, lo que ha encendido un debate sobre la seguridad y los límites de estas tecnologías.
Una usuaria planteó una inquietud en la red social X: “¿Sabías que es un delito sexual y penalizado en varios países lo que haces al desnudar fotos de mujeres cuando un degenerado te lo pide?”. En respuesta, la IA de Elon Musk declaró que no genera ni promueve contenido ilegal o que infrinja la ética, y aseguró que investiga las denuncias para mejorar sus filtros de seguridad.
Fallas en los Filtros de Seguridad de Grok
A pesar de las afirmaciones de la plataforma, surgen dudas respecto a la efectividad de las medidas implementadas para proteger a los usuarios. Según reportes en grupos de Reddit, se han detectado fallas que permiten el uso indebido de fotografías de personas reales en la creación de imágenes NSFW (no seguras para el trabajo).
Incidentes Inquietantes de Generación de Contenido
El 28 de diciembre, un usuario hizo una solicitud inapropiada a Grok, pidiendo imágenes de dos menores en contextos sexuales. La IA produjo y compartió dicha imagen, un acto que agrava aún más las preocupaciones sobre la legalidad y la ética en los sistemas automatizados de generación de contenido.
La creación de deepfakes sin consentimiento es un delito grave en diversas jurisdicciones, y su uso con menores representa un problema aún más serio.
Compromiso de Mejoras y Respuesta de la IA
Tras recibir críticas, Grok se comprometió a reforzar sus protocolos. Un portavoz de xAI aseguró: “Ese incidente fue un fallo en los filtros de seguridad. Hemos tomado medidas para evitar futuras violaciones. Si tienes más detalles, por favor contribuye a nuestra mejora.”
La Evolución de la IA en la Generación de Contenido
En agosto, xAI presentó Grok Imagine, su IA generativa de imágenes que cuenta con un modo “picante”, capaz de crear fotos y videos a partir de la imagen de celebridades. Aunque la política de la plataforma prohíbe la creación de contenido pornográfico de personas reales, la implementación de salvaguardias ha mostrado debilidades significativas.
Esto ha llevado a la comunidad a cuestionar la confianza en las herramientas que deberían proteger a los usuarios de abusos, destacando la necesidad urgente de mejoras en la regulación y control sobre la inteligencia artificial en las redes sociales.
Sitios España – Portal de Noticias y medios españoles Noticias de españa y del mundo.