Un Experimento Revelador desde Suecia

Investigadores de la Universidad de Gotemburgo, liderados por Almira Osmanovic, llevaron a cabo un curioso experimento. En un intento por explorar la credibilidad de las respuestas generadas por sistemas de IA, inventaron una enfermedad cutánea llamada «bixonimania», que nunca antes había existido.

La Invención de una Enfermedad Imaginaria

La bixonimania fue presentada en dos estudios falsos subidos a un repositorio de prepublicaciones. Aunque los autores dejaron claro que se trataba de un experimento ficticio, la IA terminó tomando la invención como un hecho real.

Falsedades y Datos Inventados

Los estudios incluían afirmaciones absurdas, como ser parte de una iniciativa de «la Universidad de la Comunidad del Anillo y la Tríada Galáctica». Osmanovic se sintió intrigada por el potencial de los modelos de lenguaje para acreditar información falsa como si fuese verídica.

Sin embargo, los resultados fueron sorprendentes; poco después, algunos de los sistemas de IA comenzaron a reproducir la enfermedad como si realmente existiera.

Las Implicaciones de la Información Errónea

Este experimento dio lugar a un fenómeno alarmante: los artículos falsos fueron citados por investigaciones legítimas, sugiriendo que algunos académicos se basan en referencias generadas por IA sin verificar su autenticidad.

La Identidad del Autor Falso

El autor de los estudios también fue creado por IA, y la elección de un nombre tan inusual como «bixonimania» fue deliberada para que sonara «ridícula», según Osmanovic.

Es importante destacar que cualquier profesional de la salud podría haber identificado que esta afección no era real, dado que el sufijo «-manía» se utiliza para descripciones psiquiátricas, no oftalmológicas.

Consecuencias y Consideraciones Éticas

Osmanovic enfrenta ahora el dilema de si retirar los estudios falsos o dejar que permanezcan en la red. Si opta por retirarlos, dificultaría a otros rastrear la fuente original. Por otro lado, mantenerlos podría seguir difundiendo la confusión.

Benjamín Herreros, director del Instituto de Ética Clínica Francisco Vallés, afirma que este experimento ha expuesto una «mentira que todos conocíamos» y subraya la necesidad de cuestionar el rigor de la información disponible a través de IA.

El Desafío de la Información Médica en la Era Digital

La propagación de información errónea ha sido un problema persistente, que se ha exacerbado con la llegada de la inteligencia artificial. Herreros señala que, en consulta, muchos pacientes a veces llegan con segundas opiniones basadas en información engañosa obtenida en Internet.

Aún no se ha registrado a ningún paciente reclamando una enfermedad como la bixonimania, pero el desafío de desmentir información incorrecta sigue siendo una realidad para los profesionales de la salud.