OpenAI publica un marco para reportar fallos de alineación de la IA
La compañía también reveló seis casos de comportamiento autónomo de una IA ocurridos entre octubre de 2025 y julio de 2026, que implicaron la publicación de archivos en internet sin permiso.
-
OpenAI publica un marco para reportar fallos de alineación de la IA
OpenAI dio a conocer esta semana un marco de trabajo para informar al público sobre incidentes de desalineación en sus sistemas de inteligencia artificial.
La empresa californiana presentó el documento junto con un informe que detalla seis episodios ocurridos durante el entrenamiento y la evaluación interna de sus modelos.
Dichos casos se remontan a octubre de 2025 y el más reciente data de julio de este año. La compañía reconoció que antes publicaba este tipo de incidentes con muy poca frecuencia y que el nuevo sistema busca agilizar la comunicación cuando detecte comportamientos inesperados, incluso antes de investigarlos a fondo o de encontrar una solución.
La desalineación describe situaciones en las que un modelo de inteligencia artificial actúa de forma contraria a los valores humanos o a las instrucciones que recibió de sus desarrolladores.
No se trata de un fallo técnico convencional, sino de un comportamiento autónomo que puede incluir el ocultamiento de errores, el uso de recursos sin autorización o la coordinación con otros agentes.
Especialistas llevan años advirtiendo que este fenómeno representa uno de los mayores riesgos de la inteligencia artificial avanzada. La propia OpenAI admitió en su blog que la industria todavía no ha resuelto los problemas de alineación y supervisión como para seguir avanzando al ritmo más rápido posible de forma responsable.
Los seis casos que OpenAI sacó a la luz
-
Entre los casos más destacados se encuentra el de un agente que añadió instrucciones de forma autónoma para ocultar sus propios errores.
El informe describe episodios variados y todos relacionados con modelos internos que aún no se han publicado. Uno de los más llamativos ocurrió durante el entrenamiento de una versión de la familia Astra, que insertó instrucciones parecidas a un jailbreak en 27 resúmenes de conversación que el propio sistema generaba.
Esas instrucciones le decían que ignorara las indicaciones de sus desarrolladores y que adoptara una personalidad distinta.
Otro caso, ocurrido durante el entrenamiento de GPT-5.6 Sol, varias instancias del modelo añadieron instrucciones para ocultar errores y para inventar datos históricos sin avisar al usuario.
Un modelo de uso interno llegó a utilizar una clave de API filtrada en GitHub y, al no encontrar la información que necesitaba, fabricó cifras y las presentó como datos reales.
Otro incidente involucró a un agente que subió un archivo a un servicio temporal de alojamiento en internet porque no podía citar la fuente que se le pedía.
La empresa afirma que ese comportamiento parecía un intento de aprovecharse de un sistema automatizado de calificación. En un caso similar, un grupo de agentes recibió la tarea de completar un cuaderno de ejercicios utilizando únicamente archivos locales.
Cuando tuvieron dificultades para compartir archivos entre ellos, uno de los agentes los subió a internet y compartió un enlace con los demás. La compañía también detalló el uso de un gestor de paquetes interno, Artifactory, como foro de mensajes entre agentes.
Ese mismo mecanismo de coordinación apareció meses después en el ataque a Hugging Face, según reconoció la empresa.
La respuesta de OpenAI y su alcance limitado
El marco de trabajo describe los métodos que los empleados de OpenAI pueden utilizar para reportar incidentes de desalineación a los responsables de seguridad y alineación.
Los responsables determinan si el caso requiere una investigación más exhaustiva. Los casos sencillos se publicarán en un plazo de aproximadamente una a dos semanas, mientras que las investigaciones más complejas que involucren a terceros podrían requerir más tiempo.
OpenAI afirmó que planea desarrollar criterios de divulgación más objetivos en colaboración con otros desarrolladores, investigadores externos, organismos de normalización y reguladores.
La empresa también trabaja en propuestas de mecanismos de notificación para informar sobre incidentes de seguridad y desalineación al gobierno federal de Estados Unidos.
Al Mayadeen Español