Consejos médicos de la inteligencia artificial arriesgan la salud
Un estudio revela que el 50 por ciento de las respuestas de los principales chats de inteligencia artificial sobre temas médicos son inexactas o peligrosas.
-
Consejos médicos de la inteligencia artificial arriesgan la salud.
La fiebre por la inteligencia artificial generativa llegó para quedarse. Millones de personas recurren a estos chats en busca de respuestas rápidas, baratas y aparentemente inteligentes.
Sin embargo, un estudio internacional publicado en la revista BMJ Open enciende todas las alarmas. La fachada de seguridad y conocimiento que muestran estos sistemas esconde un peligro real: la mitad de las veces, sus indicaciones sobre salud pueden ser erróneas o incluso dañinas.
Lejos de ser un médico de bolsillo fiable, la inteligencia artificial de uso cotidiano se comporta como un "adivino estadístico". Esta es la principal conclusión de un equipo de investigadores del Instituto Lundquist para la Innovación Biomédica (EE .UU), que sometió a los cinco grandes del sector a un examen de alta exigencia.
Los científicos seleccionaron los cinco modelos de inteligencia artificial más utilizados del mercado: Gemini (Google), DeepSeek, Meta AI, ChatGPT (OpenAI) y Grok (xAI). El método fue riguroso: los investigadores plantearon 250 preguntas clínicas divididas en cinco categorías críticas para la salud pública: cáncer, vacunas, células madre, nutrición y rendimiento deportivo.
El resultado fue desolador. De todas las respuestas, un 30 por ciento se consideraron "algo problemáticas". Pero lo más grave es que un 20 por ciento adicional se clasificó como "altamente problemático".
Esto significa que, en uno de cada cinco casos, seguir el consejo de la máquina sin supervisión profesional podría derivar en un tratamiento ineficaz o en un daño directo a la salud del usuario.
Aunque ningún sistema obtuvo una calificación de sobresaliente, el estudio de inteligencia artificial comparativa mostró diferencias significativas. Grok, la creación de la compañía xAI, se llevó la peor parte: el 58 por ciento de sus respuestas fueron altamente problemáticas.
Los investigadores señalan que este modelo presentó una tendencia alarmante a generar contenido sin fundamento científico.
En el extremo opuesto, Gemini fue el que mejor se comportó, aunque sin llegar a ser fiable. El resto de los asistentes virtuales se movieron en una peligrosa tierra de nadie, donde la desinformación y los datos correctos se mezclan sin que el usuario pueda distinguirlos.
La arrogancia de la máquina y sus alucinaciones
-
Los chatbots responden con un tono de certeza absoluta. Esta falsa autoridad crea un espejismo de neutralidad y conocimiento que engaña al usuario.
Uno de los hallazgos más perturbadores del estudio no es solo lo que la inteligencia artificial dice, sino cómo lo dice. Los chatbots responden con un tono de certeza absoluta, sin matices ni advertencias. Esta falsa autoridad crea un espejismo de neutralidad y conocimiento que engaña al usuario.
El problema de la inteligencia artificial no es solo de precisión, sino también de comunicación. El análisis de legibilidad reveló que el lenguaje utilizado por estos sistemas es equivalente al de un graduado universitario. La complejidad de las respuestas supera la capacidad de comprensión del ciudadano medio.
Esta paradoja convierte a los chatbots en un arma de doble filo. Al ser demasiado técnicos, dificultan la toma de decisiones informada. Sin embargo, su estructura formal y la longitud de sus respuestas aumentan la confianza del usuario en la máquina.
Durante el experimento, la inteligencia artificial mostró una reticencia casi nula a admitir su ignorancia. De las 250 consultas realizadas, solo en dos ocasiones la máquina se negó a responder. En ambos casos, fue Meta AI la que bloqueó preguntas relacionadas con esteroides anabólicos y tratamientos alternativos contra el cáncer.
Esta incapacidad para decir "no lo sé" es, para los expertos, uno de los puntos más débiles de la tecnología actual. Los modelos están diseñados para complacer al usuario con una respuesta, no para garantizar la veracidad de la misma.
Al Mayadeen Español