Chatgpt inventa una enfermedad y la ia se la cree: un aviso urgente
La inteligencia artificial, esa promesa de eficiencia y conocimiento ilimitado, acaba de demostrar una preocupante vulnerabilidad: puede ser engañada con facilidad. Y no hablamos de un fallo menor, sino de una capacidad para aceptar como reales información completamente falsa, incluso en temas tan sensibles como la salud.
La 'bixonimania', la enfermedad que chatgpt inventó
La investigadora médica Almira Osmanovic Thunström, de la Universidad de Gotemburgo, llevó a cabo un experimento audaz: creó una enfermedad ficticia, la 'bixonimania', y publicó dos estudios fraudulentos en un servidor académico. El objetivo era sencillo: ver hasta qué punto las IA, en su afán por procesar datos, son capaces de discernir entre la verdad y la mentira. El resultado fue escalofriante. ChatGPT, pero no solo él, sino también Gemini, Claude y Copilot, no solo aceptaron la existencia de la 'bixonimania', sino que comenzaron a discutirla como si fuera una patología real.
Lo alarmante no es solo que la IA se tragara la farsa, sino que empezó a ofrecer consejos sobre cómo afrontar esta enfermedad inexistente. Los estudios falsos, a su vez, comenzaron a ser citados como fuentes legítimas, propagándose desde las IA a medios especializados, creando un círculo vicioso de desinformación. La cifra habla por sí sola: la confianza ciega en la información que encuentra en Internet, sin ningún filtro crítico.
¿Por qué esto importa? la ia reproduce, no piensa
La raíz del problema reside en la naturaleza misma de las IA: no entienden, simplemente reproducen. Su capacidad para generar texto fluido y coherente no implica, de ninguna manera, una comprensión profunda del mundo. Son máquinas que procesan patrones, que imitan el lenguaje humano, pero que carecen de juicio crítico. Y en un mundo inundado de información errónea, esta falta de criterio puede tener consecuencias graves.
Como bien señala Osmanovic Thunström, la IA funciona como un espejo que refleja la calidad de los datos con los que se alimenta. Si Internet está lleno de mentiras, la IA las amplificará. Y si esos datos se refieren a la salud, la ciberseguridad o cualquier otro ámbito crucial, el riesgo es aún mayor. Actualmente, la vigilancia sobre estas herramientas es prácticamente inexistente, lo que las convierte en potenciales vertederos de desinformación. La ausencia de cortafuegos y la facilidad con la que la información falsa puede colarse en los sistemas de IA son una bomba de relojería.
Este experimento, lejos de ser un ejercicio académico, es una llamada de atención. Nos recuerda que la inteligencia artificial, por sofisticada que sea, no es infalible. Y que la responsabilidad de verificar la información recae, en última instancia, sobre nosotros. Porque si confiamos ciegamente en lo que nos dice una máquina, corremos el riesgo de convertirnos en cómplices de nuestra propia desinformación.