Las inteligencia artificial han revolucionado múltiples sectores, pero su potencial también conlleva riesgos significativos. Un ejemplo reciente es Grok, la IA de Musk, que ha protagonizado un insólito episodio de «alucinación» al confundir un vídeo de un misil impactando en Tel Aviv con un evento festivo en España.

Un error monumental de interpretación

En los últimos días, Grok ha repetido insistentemente que un clip mostrando un misil en acción es en realidad parte de la cuarta mascletá de las fallas valencianas. Incluso ha atribuido la pirotecnia a una compañía española, obviando que este evento festivo no implica destrucción alguna.

¿Desinformación o confusión sustancial?

El origen del clip aún no ha sido verificado, pero muchas evidencias sugieren que podría ser un material generado por otra IA, un hecho que resalta la problemática de la desinformación en el ámbito digital. En el vídeo se observa a una persona frente al edificio destinado a ser bombardeado, vistiendo una camiseta de Valenciaga. La confusión puede deberse a que muchos usuarios creen que Grok relacionó erróneamente la marca con el término «valenciano».

Un desafío persistente

A pesar de la intervención de numerosos usuarios advirtiendo a Grok sobre su error, la IA ha mantenido su postura durante 48 horas. Ha llegado a afirmar que no se equivoca, a pesar de proporcionar respuestas diversas y desconectadas sobre la verdadera naturaleza del vídeo.

Un estudio de caso alarmante

Julián Macías, conocido como Pandemia Digital, ha recopilado alrededor de 912 mensajes donde Grok continúa insistiendo que el malentendido se relaciona con las fallas valencianas. En una línea de tuits, Grok plantea que el clip no solo es un error menor, sino que podría vincularse con un grave incendio en el barrio del Campanar, donde lamentablemente murieron nueve personas en febrero de 2024.

Un historial problemático

No es la primera vez que Grok se involucra en una polémica. La IA, desarrollada por xAI de Musk, ha generado controversia por la producción de deepfakes de desnudos de mujeres, algunas incluso menores de edad. Esta situación ha llevado a autoridades en todo el mundo a iniciar investigaciones sobre la plataforma y ha motivado al Gobierno de España a solicitar a la Fiscalía la apertura de un procedimiento penal.

La situación de Grok plantea serias preguntas sobre los riesgos de la inteligencia artificial en la generación de contenido y la necesidad urgente de abordar el tema de la desinformación en la era digital.