Red El Mayadeen

  • Ar
  • En
  • x
Red El Mayadeen

Slogan

  • Noticias
    • Política
    • Cultura y Arte
    • Deportes
    • Salud
    • Tecnología
    • Medio Ambiente
    • Medios Internacionales
    • Crónicas del Medio Oriente
  • Video
    • Focus
    • Como te Cuento
    • Al Mayadeen Semanal
    • Poesía en Resistencia
    • Imagínate
    • Flashdotnet
    • Despixelado
  • Opinión
    • Artículos Exclusivos
    • Artículos
    • Entrevistas
    • A Profundidad
    • Escritores
  • Televisión
  • Multimedia
    • Infografías
    • Caricaturas
    • Historietas
  • Coberturas
  • • En Vivo
Noticias
  • Política
  • Cultura
  • Deportes
  • Salud
  • Tecnología
  • Medio Ambiente
  • Medios Internacionales
  • Crónicas del Medio Oriente
Opinión
  • Artículos
  • Escritores
  • Artículos Exclusivos
  • A Profundidad
  • Entrevistas
Video
Televisión
  • Programas
  • Últimos episodios
  • Frecuencia
Multimedia
  • Infografías
  • Caricatura
  • Historietas
General
  • Coberturas
  • Contactar
  • Quiénes somos
  • Medio Oriente
  • América Latina
  • EE.UU.-Canadá
  • Europa
  • África
  • Asia
  • Oceanía
  1. Inicio
  2. Noticias
  3. Tecnología
  4. Caja negra: Científicos abren el razonamiento oculto de la IA

Caja negra: Científicos abren el razonamiento oculto de la IA

  • Al Mayadeen Español Al Mayadeen Español
  • Autor: Al Mayadeeen español
  • Fuente: Agencias
  • 15 Marzo 13:16
  • 67 Visualizaciones

Un nuevo proyecto desarrolla una técnica que hace más evidente el razonamiento de la caja negra de la inteligencia artificial en tareas complejas.

Escuchar
  • x
  • Caja negra: Científicos abren el razonamiento oculto de la IA
    Caja negra: Científicos abren el razonamiento oculto de la IA

En entornos de alto riesgo, como el diagnóstico médico, los usuarios suelen querer saber qué ocurre dentro de una caja negra cuando un modelo de visión artificial emite una predicción, para así decidir si conviene confiar en el resultado o cuestionarlo.

Un grupo de científicos informáticos del Instituto Tecnológico de Massachusetts (MIT) presentó un método que aumenta la precisión de los modelos y, al mismo tiempo, ofrece explicaciones más claras y concisas. 

El autor principal y estudiante de posgrado de la Universidad Politécnica de Milán, Antonio De Santis, explicó el propósito del trabajo:

“Queremos leer la mente de estos modelos de visión artificial. Un modelo de cuello de botella conceptual permite entender qué piensa el sistema y por qué realiza una predicción. Al utilizar conceptos más sólidos, nuestro método aumenta la precisión y mejora su fiabilidad”.

De Santis desarrolló la investigación durante su estancia como estudiante visitante en el Laboratorio de Ciencias de la Computación e Inteligencia Artificial del MIT. 

En el proyecto colaboraron Schrasing Tong, Marco Brambilla, profesor de informática e ingeniería en la Universidad Politécnica de Milán, y Lalana Kagal, investigadora principal en CSAIL.

Su equipo presentó los resultados en la Conferencia Internacional sobre Representaciones de Aprendizaje.

🔴 Guerra contra Irán dispara alarmas éticas del uso de la IA

📌El uso de inteligencia artificial por Estados Unidos e "Israel" en la guerra contra Irán genera serias dudas éticas y legales.

✅ Siga leyendo en: https://t.co/A28ORFBrhO#Iran #Guerra #IA #EEUU pic.twitter.com/zNz2tl62YJ

— Al Mayadeen Español (@almayadeen_es) March 10, 2026

Caja negra y modelos conceptuales: cómo hacer comprensible la IA

  • Inteligencia artificial pierde terreno en Europa por sus riesgos
    Uno de los grandes retos es hacer comprender modelos de cajas negras de IA en salud 

Los modelos de cuello de botella conceptual (CBM, por sus siglas en inglés) constituyen una estrategia extendida para mejorar la explicabilidad de la inteligencia artificial.

Este enfoque introduce un paso intermedio: primero el modelo identifica los conceptos presentes en una imagen; después utiliza esos conceptos para producir la predicción final.

Cómo revelar lo que aprende una caja negra

Según De Santis, muchos modelos optimizan el rendimiento sin ofrecer pistas sobre los conceptos que emplean:

“Estos sistemas buscan el máximo rendimiento, por lo que pueden usar conceptos que desconocemos”.

El equipo del Massachusetts Institute of Technology planteó otra hipótesis. Si el modelo ya se entrenó con grandes volúmenes de datos, entonces pudo aprender conceptos útiles para resolver la tarea. 

La investigación buscó extraer ese conocimiento oculto dentro de la caja negra y convertirlo en explicaciones comprensibles para las personas.

Según explicaron, el método funciona en dos etapas:

  1. Extracción de características: un modelo de aprendizaje profundo, denominado autoencoder disperso, selecciona las características más relevantes y las reorganiza en un conjunto de conceptos.
  2. Interpretación en lenguaje natural: un modelo multimodal describe cada concepto mediante frases claras.

El sistema alcanzó mayor precisión que otros métodos basados en conceptos y generó explicaciones más exactas sobre el comportamiento de la caja negra.

🔴 Guerra contra Irán dispara alarmas éticas del uso de la IA

📌El uso de inteligencia artificial por Estados Unidos e "Israel" en la guerra contra Irán genera serias dudas éticas y legales.

✅ Siga leyendo en: https://t.co/A28ORFBrhO#Iran #Guerra #IA #EEUU pic.twitter.com/zNz2tl62YJ

— Al Mayadeen Español (@almayadeen_es) March 10, 2026

Caja negra e interpretabilidad: un desafío central para la IA

  • La inteligencia artificial es tan contaminante como Nueva York
    La nueva investigación buscó extraer el conocimiento oculto dentro de la caja negra

Los investigadores planearon abordar en el futuro el problema de la fuga de información, quizá mediante módulos adicionales que limiten la difusión de conceptos no deseados.

El investigador Bryon Aragam resume el desafío con claridad:

“Puedes volverte tan ambicioso como quieras y construir la red neuronal más grande y profunda, y aun así integrar la interpretabilidad desde el principio”.

Incluso líderes del sector reconocen esa incertidumbre. En abril de 2025, el empresario Dario Amodei, cofundador del laboratorio de IA Anthropic y director ejecutivo de la empresa, afirmó:

“Las personas fuera del campo suelen sorprenderse y alarmarse al saber que no entendemos cómo funcionan nuestras propias creaciones de IA. Tienen razón en preocuparse: esta falta de comprensión no tiene precedentes en la historia de la tecnología”.

Por ese motivo, la interpretabilidad —la ciencia que intenta abrir la mente de la caja negra— se convirtió en una prioridad para el desarrollo responsable de la inteligencia artificial.

  • Caja negra
  • Ciencia
  • razonamiento
  • Inteligencia Artificial
Al Mayadeen Español

Al Mayadeen Español

Canal panárabe de noticias

  • x

Más Visto

Vicejefe del Estado Mayor de las Fuerzas Armadas iraníes, general de brigada Kioumars Heidari

Irán confirma destrucción de 300 aviones y dos destructores de EE. UU.

  • 12 Noviembre 03:46
El Jem, el coliseo africano que desafía el paso de los siglos

El Jem, el coliseo de África que desafía el paso de los siglos

  • 12 Noviembre 20:08
Asesor del comandante de la Fuerza Aeroespacial del Cuerpo de la Guardia Revolucionaria Islámica de Irán, Ali Balali

Irán desarrolla sus propios sistemas con armas capturadas de EE. UU.

  • 14 Noviembre 08:31
Yemen anuncia ataques contra instalaciones petroleras sauditas

Yemen anuncia ataques contra instalaciones petroleras sauditas

  • 12 Noviembre 21:19
Red El Mayadeen

Canal Satelital Pan-árabe Informativo Independiente

  • x
  • Frecuencia
  • Sobre Nosotros
  • Contáctenos
  • Versión árabe
  • Noticias
  • Video
  • Política de Privacidad
  • Televisión
  • Opinión
  • Últimos episodios
Android
iOS

Todos los derechos reservados 2024