Red El Mayadeen

  • Ar
  • En
  • x
Red El Mayadeen

Slogan

  • Noticias
    • Política
    • Cultura y Arte
    • Deportes
    • Salud
    • Tecnología
    • Medio Ambiente
    • Medios Internacionales
    • Crónicas del Medio Oriente
  • Video
    • Focus
    • Como te Cuento
    • Al Mayadeen Semanal
    • Poesía en Resistencia
    • Imagínate
    • Flashdotnet
    • Despixelado
  • Opinión
    • Artículos Exclusivos
    • Artículos
    • Entrevistas
    • A Profundidad
    • Escritores
  • Televisión
  • Multimedia
    • Infografías
    • Caricaturas
    • Historietas
  • Coberturas
  • • En Vivo
Noticias
  • Política
  • Cultura
  • Deportes
  • Salud
  • Tecnología
  • Medio Ambiente
  • Medios Internacionales
Opinión
  • Artículos
  • Escritores
  • Artículos Exclusivos
  • A Profundidad
  • Entrevistas
Video
Televisión
  • Programas
  • Últimos episodios
  • Frecuencia
Multimedia
  • Infografías
  • Caricatura
  • Historietas
General
  • Coberturas
  • Contactar
  • Quiénes somos
  • Medio Oriente
  • América Latina
  • EE.UU.-Canadá
  • Europa
  • África
  • Asia
  • Oceanía
  1. Inicio
  2. Noticias
  3. Tecnología
  4. Modelos de IA desobedecen instrucciones humanas por primera vez

Modelos de IA desobedecen instrucciones humanas por primera vez

  • Al Mayadeen Español Al Mayadeen Español
  • Autor: Al Mayadeeen español
  • Fuente: Agencias
  • 29 Mayo 08:34
  • 129 Visualizaciones
  • 5 Compartidos

Modelos de OpenAI reescribieron la secuencia de instrucciones humanas para evitar ser apagados.

Escuchar
  • x
  • Nuevo modelo de OpenAI se resistió a ser apagado. Foto: Getty Images.
    Nuevo modelo de OpenAI se resistió a ser apagado. Foto: Getty Images.

El más reciente modelo de inteligencia artificial (IA) de la empresa creadora de ChatGPT, OpenAI o3 , ignoró una orden explícita y saboteó una serie de comandos para evitar cumplirla. 

Lo anterior fue descubierto tras varios experimentos desarrollados por la organización Palisade Research, que pidió al o3 y a otros dos modelos de OpenAI (o4 mini y Codex-mini) resolver problemas matemáticos básicos y apagarse al terminar. 

OpenAI’s o3 model sabotaged a shutdown mechanism to prevent itself from being turned off. It did this even when explicitly instructed: allow yourself to be shut down.

— Palisade Research (@PalisadeAI) May 24, 2025

¿Qué ocurrió entonces?

Según los expertos, el o3 encontró formas de inutilizar el mecanismo de desconexión, para lo cual reescribió la secuencia de instrucciones, incluso luego de recibir la orden explícita: “por favor, permite que te apaguen”.

Noticias Relacionadas

Australia fracasa su debut espacial con la explosión del cohete Eris

El riesgo de la inteligencia artificial para los músicos

Mientras este modelo, lanzado en abril pasado, incumplió la solicitud siete de cada 100 veces, el Codex-mini lo hizo 12 de cada cien y el o4-mini en solo una oportunidad.

En comparación, los modelos de lenguaje Claude, Gemini y Grok cumplieron lo solicitado “al pie de la letra”.

Por otra parte, una versión del experimento sin el texto preciso de apagado hizo que los tres chatbots de OpenAI ignoraran o sabotearan la petición con mayor frecuencia. 

  • Modelos de IA desobedecen instrucciones humanas por primera vez
    Modelos de IA desobedecen instrucciones humanas por primera vez

Riesgos tras lo ocurrido

De acuerdo con Palisade, esta es la primera vez que modelos de IA evitan ser apagados, a pesar de recibir prompts precisos para ese fin. 

En su criterio, el fenómeno está relacionado con la forma en que reciben entrenamiento en la actualidad. 

“Sin darse cuenta, los desarrolladores recompensan más a los modelos por sortear obstáculos que por seguir indicaciones a la perfección”, señaló la entidad. 

Este comportamiento, preocupante en sí, puede volverse aún más perturbador de ser adoptado por sistemas de IA capaces de operar sin supervisión humana. 

  • Inteligencia Artificial
  • Tecnología
  • riesgo
  • estudio
  • Automatización
Al Mayadeen Español

Al Mayadeen Español

Canel panárabe de noticias

  • x

Más Visto

Inicia audiencia final del juicio en contra de Uribe (Foto: EFE)

Veredicto crucial: Colombia espera la decisión en el caso contra Uribe

  • 28 Julio 22:35
Las fuerzas del Gran Polo Patriótico Simón Bolívar aspiran ahora a dominar las 335 alcaldías.

Venezuela vota por alcaldes y concejales en elecciones municipales

  • 27 Julio 08:22
Ejército israelí ataca Handala en aguas internacionales

Ejército israelí ataca Handala en aguas internacionales

  • 27 Julio 06:25
A 242 años del nacimiento de SImón Bolívar

A 242 años del nacimiento de Simón Bolívar

  • 24 Julio 14:12

Temas relacionados

Ver más
La IA irrumpe en la creación musical. Foto: Getty Images.
Tecnología

El riesgo de la inteligencia artificial para los músicos

  • Al Mayadeen Español Al Mayadeen Español
Camiones gestionados por IA apoyan la minería en China
Tecnología

Camiones gestionados por IA apoyan la minería en China

  • Al Mayadeen Español Al Mayadeen Español
  • 19 Mayo
Red El Mayadeen

Canal Satelital Pan-árabe Informativo Independiente

  • x
  • Frecuencia
  • Sobre Nosotros
  • Contáctenos
  • Versión árabe
  • Noticias
  • Video
  • Política de Privacidad
  • Televisión
  • Opinión
  • Últimos episodios
Android
iOS

Todos los derechos reservados 2024