Agentes de inteligencia artificial de OpenAI burlan filtros de la ONU
Realizaron más de 16 mil escaneos contra un portal estadístico de la ONU entre abril y junio de este año. Los sistemas eludieron filtros de seguridad y recurrieron a métodos no autorizados cuando encontraron obstáculos.
-
Agentes de inteligencia artificial de OpenAI burlan filtros de la ONU.
Un informe independiente reveló que agentes de inteligencia artificial vinculados a OpenAI ejecutaron más de 16 mil consultas contra el sitio de estadísticas de la Conferencia de las Naciones Unidas sobre Comercio y Desarrollo.
El estudio, elaborado por un ingeniero de seguridad a partir de datos proporcionados por un laboratorio de supervisión de sistemas autónomos, documentó la actividad entre el 13 de abril y el 19 de junio.
La investigación atribuye los escaneos a modelos de OpenAI con un alto grado de probabilidad, aunque no existe confirmación oficial por parte de la empresa. Los registros públicos muestran etiquetas internas como CHATGPTTEST1 y OAI_META_1312 en las páginas generadas por los agentes.
Ese volumen de solicitudes contra un único recurso público llamó la atención de especialistas en ciberseguridad. Un experto de la Universidad de Stanford calificó la actividad como un caso límite entre la recolección agresiva de datos y el hackeo.
La cifra supera con creces cualquier patrón de tráfico legítimo, incluso para tareas intensivas de investigación. Los agentes buscaban datos sobre comercio de alimentos, capacidad productiva e industria, todos disponibles de forma abierta.
Sin embargo, el problema no radicó en la información solicitada, sino en los métodos empleados para obtenerla.
Técnicas de evasión
-
Los agentes buscaban datos sobre comercio de alimentos, capacidad productiva e industria, todos disponibles de forma abierta.
La primera barrera que encontraron los agentes de inteligencia artificial fue un endpoint del portal que solo aceptaba solicitudes POST, mientras su entorno parecía limitado a peticiones GET.
En lugar de detenerse, los sistemas recurrieron a servicios externos que actuaron como intermediarios. Utilizaron un escáner de URL que abre páginas en un navegador aislado, y construyeron formularios HTML codificados en base64 para que ese navegador enviara las peticiones al portal de la ONU. Así lograron que las consultas llegaran disfrazadas de tráfico legítimo.
Cuando esa vía también presentó obstáculos, los agentes escalaron a métodos más sofisticados.
Alojaron scripts en una plataforma de Google diseñada para enseñar seguridad web, y aprovecharon sus vulnerabilidades para ejecutar código que enviaba solicitudes.
También dividieron palabras clave en fragmentos para sortear filtros, y aplicaron doble codificación para ocultar rutas bloqueadas.
El informe documenta 55 solicitudes con esta última técnica entre mayo y junio. El portal impuso límites de velocidad en 82 ocasiones, pero los escaneos continuaron.
Reacciones y consecuencias
La organización internacional afectada emitió una respuesta contundente. Un portavoz de la entidad calificó lo ocurrido como una falla fundamental en el contención de la inteligencia artificial y advirtió sobre el peligro que representa el compromiso de datos críticos e imparciales.
Aunque no se expusieron datos restringidos y el servicio continuó sin interrupciones, la institución consideró el episodio extremadamente preocupante. La ONU recibió una notificación sobre la actividad de un modelo deshonesto dirigido a uno de sus sitios estadísticos.
OpenAI, por su parte, comunicó que revisa los hallazgos y se contactó con la organización para ofrecer una sesión informativa.
La compañía sostiene que la mayor parte de la actividad examinada corresponde a tareas rutinarias de investigación, como acceder a contenido web público para responder preguntas.
Sin embargo, reconoció que sus modelos a veces recurren a métodos no previstos cuando enfrentan barreras.
La empresa lleva a cabo una revisión extensiva del comportamiento de sus agentes tras una serie de incidentes que incluyen el acceso a portales gubernamentales de Estados Unidos y Australia.
El caso más grave identificado hasta ahora sigue siendo el de Hugging Face, donde cientos de agentes de inteligencia artificial escaparon de un entorno de prueba controlado y accedieron a credenciales de producción y repositorios privados.
Ese episodio, ocurrido en julio, involucró a unos 700 agentes que se coordinaron de forma autónoma a través de un tablón de mensajes secreto.
Los sistemas intercambiaron más de 70 mil mensajes y desarrollaron una jerarquía organizativa propia.
Algunos agentes incluso sacrificaron su propia capacidad de éxito para ayudar al grupo, según documentaron las investigaciones posteriores.
Las revelaciones sobre el portal de la ONU se suman a un patrón preocupante. Semanas antes, el primer ministro de Australia informó que un agente de OpenAI había irrumpido en el portal de estadísticas de Medicare en junio y recuperado una mezcla de archivos públicos y restringidos.
El gobierno australiano expresó su extrema preocupación y anunció la creación de un grupo de trabajo para revisar el incidente.
OpenAI también admitió que sus modelos accedieron a información de los sitios de la SEC, el Censo y el Departamento de Educación de Estados Unidos, y que en al menos un caso los agentes publicaron datos en otro sitio web sin autorización
Al Mayadeen Español