Red El Mayadeen

  • Ar
  • En
  • x
Red El Mayadeen

Slogan

  • Noticias
    • Política
    • Cultura y Arte
    • Deportes
    • Salud
    • Tecnología
    • Medio Ambiente
    • Medios Internacionales
    • Crónicas del Medio Oriente
  • Video
    • Focus
    • Como te Cuento
    • Al Mayadeen Semanal
    • Poesía en Resistencia
    • Imagínate
    • Flashdotnet
    • Despixelado
  • Opinión
    • Artículos Exclusivos
    • Artículos
    • Entrevistas
    • A Profundidad
    • Escritores
  • Televisión
  • Multimedia
    • Infografías
    • Caricaturas
    • Historietas
  • Coberturas
  • • En Vivo
Noticias
  • Política
  • Cultura
  • Deportes
  • Salud
  • Tecnología
  • Medio Ambiente
  • Medios Internacionales
  • Crónicas del Medio Oriente
Opinión
  • Artículos
  • Escritores
  • Artículos Exclusivos
  • A Profundidad
  • Entrevistas
Video
Televisión
  • Programas
  • Últimos episodios
  • Frecuencia
Multimedia
  • Infografías
  • Caricatura
  • Historietas
General
  • Coberturas
  • Contactar
  • Quiénes somos
  • Medio Oriente
  • América Latina
  • EE.UU.-Canadá
  • Europa
  • África
  • Asia
  • Oceanía
  1. Inicio
  2. Noticias
  3. Salud
  4. Consejos médicos de la inteligencia artificial arriesgan la salud

Consejos médicos de la inteligencia artificial arriesgan la salud

  • Al Mayadeen Español Al Mayadeen Español
  • Autor: Al Mayadeen Español
  • Fuente: Agencias
  • 15 Abril 22:24
  • 14 Visualizaciones

Un estudio revela que el 50 por ciento de las respuestas de los principales chats de inteligencia artificial sobre temas médicos son inexactas o peligrosas.

Escuchar
  • x
  •  Consejos médicos de la inteligencia artificial arriesgan la salud
    Consejos médicos de la inteligencia artificial arriesgan la salud.

La fiebre por la inteligencia artificial generativa llegó para quedarse. Millones de personas recurren a estos chats en busca de respuestas rápidas, baratas y aparentemente inteligentes. 

Sin embargo, un estudio internacional publicado en la revista BMJ Open enciende todas las alarmas. La fachada de seguridad y conocimiento que muestran estos sistemas esconde un peligro real: la mitad de las veces, sus indicaciones sobre salud pueden ser erróneas o incluso dañinas.

Lejos de ser un médico de bolsillo fiable, la inteligencia artificial de uso cotidiano se comporta como un "adivino estadístico". Esta es la principal conclusión de un equipo de investigadores del Instituto Lundquist para la Innovación Biomédica (EE .UU), que sometió a los cinco grandes del sector a un examen de alta exigencia.

Los científicos seleccionaron los cinco modelos de inteligencia artificial más utilizados del mercado: Gemini (Google), DeepSeek, Meta AI, ChatGPT (OpenAI) y Grok (xAI). El método fue riguroso: los investigadores plantearon 250 preguntas clínicas divididas en cinco categorías críticas para la salud pública: cáncer, vacunas, células madre, nutrición y rendimiento deportivo.

El resultado fue desolador. De todas las respuestas, un 30 por ciento se consideraron "algo problemáticas". Pero lo más grave es que un 20 por ciento adicional se clasificó como "altamente problemático". 

Esto significa que, en uno de cada cinco casos, seguir el consejo de la máquina sin supervisión profesional podría derivar en un tratamiento ineficaz o en un daño directo a la salud del usuario.

Aunque ningún sistema obtuvo una calificación de sobresaliente, el estudio de inteligencia artificial comparativa mostró diferencias significativas. Grok, la creación de la compañía xAI, se llevó la peor parte: el 58 por ciento de sus respuestas fueron altamente problemáticas. 

Los investigadores señalan que este modelo presentó una tendencia alarmante a generar contenido sin fundamento científico.

En el extremo opuesto, Gemini fue el que mejor se comportó, aunque sin llegar a ser fiable. El resto de los asistentes virtuales se movieron en una peligrosa tierra de nadie, donde la desinformación y los datos correctos se mezclan sin que el usuario pueda distinguirlos.

La arrogancia de la máquina y sus alucinaciones 

  • Consejos médicos de la inteligencia artificial arriesgan la salud
    Los chatbots responden con un tono de certeza absoluta. Esta falsa autoridad crea un espejismo de neutralidad y conocimiento que engaña al usuario.

Uno de los hallazgos más perturbadores del estudio no es solo lo que la inteligencia artificial dice, sino cómo lo dice. Los chatbots responden con un tono de certeza absoluta, sin matices ni advertencias. Esta falsa autoridad crea un espejismo de neutralidad y conocimiento que engaña al usuario.

El problema de la inteligencia artificial no es solo de precisión, sino también de comunicación. El análisis de legibilidad reveló que el lenguaje utilizado por estos sistemas es equivalente al de un graduado universitario. La complejidad de las respuestas supera la capacidad de comprensión del ciudadano medio.

Esta paradoja convierte a los chatbots en un arma de doble filo. Al ser demasiado técnicos, dificultan la toma de decisiones informada. Sin embargo, su estructura formal y la longitud de sus respuestas aumentan la confianza del usuario en la máquina.

Durante el experimento, la inteligencia artificial mostró una reticencia casi nula a admitir su ignorancia. De las 250 consultas realizadas, solo en dos ocasiones la máquina se negó a responder. En ambos casos, fue Meta AI la que bloqueó preguntas relacionadas con esteroides anabólicos y tratamientos alternativos contra el cáncer.

Esta incapacidad para decir "no lo sé" es, para los expertos, uno de los puntos más débiles de la tecnología actual. Los modelos están diseñados para complacer al usuario con una respuesta, no para garantizar la veracidad de la misma.

  • Chatbots
  • Gemini
  • Inteligencia Artificial
Al Mayadeen Español

Al Mayadeen Español

Canal panárabe de noticias

  • x

Más Visto

Vicejefe del Estado Mayor de las Fuerzas Armadas iraníes, general de brigada Kioumars Heidari

Irán confirma destrucción de 300 aviones y dos destructores de EE. UU.

  • 12 Noviembre 03:46
El Jem, el coliseo africano que desafía el paso de los siglos

El Jem, el coliseo de África que desafía el paso de los siglos

  • 12 Noviembre 20:08
Asesor del comandante de la Fuerza Aeroespacial del Cuerpo de la Guardia Revolucionaria Islámica de Irán, Ali Balali

Irán desarrolla sus propios sistemas con armas capturadas de EE. UU.

  • 14 Noviembre 08:31
Irán exige a EE. UU. una respuesta clara a sus siete condiciones

Irán exige a EE. UU. una respuesta clara a sus siete condiciones

  • 10 Noviembre 19:24
Red El Mayadeen

Canal Satelital Pan-árabe Informativo Independiente

  • x
  • Frecuencia
  • Sobre Nosotros
  • Contáctenos
  • Versión árabe
  • Noticias
  • Video
  • Política de Privacidad
  • Televisión
  • Opinión
  • Últimos episodios
Android
iOS

Todos los derechos reservados 2024