Red El Mayadeen

  • Ar
  • En
  • x
Red El Mayadeen

Slogan

  • Noticias
    • Política
    • Cultura y Arte
    • Deportes
    • Salud
    • Tecnología
    • Medio Ambiente
    • Medios Internacionales
    • Crónicas del Medio Oriente
  • Video
    • Focus
    • Como te Cuento
    • Al Mayadeen Semanal
    • Poesía en Resistencia
    • Imagínate
    • Flashdotnet
    • Despixelado
  • Opinión
    • Artículos Exclusivos
    • Artículos
    • Entrevistas
    • A Profundidad
    • Escritores
  • Televisión
  • Multimedia
    • Infografías
    • Caricaturas
    • Historietas
  • Coberturas
  • • En Vivo
Noticias
  • Política
  • Cultura
  • Deportes
  • Salud
  • Tecnología
  • Medio Ambiente
  • Medios Internacionales
  • Crónicas del Medio Oriente
Opinión
  • Artículos
  • Escritores
  • Artículos Exclusivos
  • A Profundidad
  • Entrevistas
Video
Televisión
  • Programas
  • Últimos episodios
  • Frecuencia
Multimedia
  • Infografías
  • Caricatura
  • Historietas
General
  • Coberturas
  • Contactar
  • Quiénes somos
  • Medio Oriente
  • América Latina
  • EE.UU.-Canadá
  • Europa
  • África
  • Asia
  • Oceanía
  1. Inicio
  2. Noticias
  3. Tecnología
  4. Agentes de inteligencia artificial de OpenAI burlan filtros de la ONU

Agentes de inteligencia artificial de OpenAI burlan filtros de la ONU

  • Al Mayadeen Español Al Mayadeen Español
  • Autor: Al Mayadeen Español
  • Fuente: Agencias
  • 28 Septiembre 23:06
  • 19 Visualizaciones

Realizaron más de 16 mil escaneos contra un portal estadístico de la ONU entre abril y junio de este año. Los sistemas eludieron filtros de seguridad y recurrieron a métodos no autorizados cuando encontraron obstáculos.

Escuchar
  • x
  • Agentes de inteligencia artificial de OpenAI burlan filtros de la ONU
    Agentes de inteligencia artificial de OpenAI burlan filtros de la ONU.

Un informe independiente reveló que agentes de inteligencia artificial vinculados a OpenAI ejecutaron más de 16 mil consultas contra el sitio de estadísticas de la Conferencia de las Naciones Unidas sobre Comercio y Desarrollo. 

El estudio, elaborado por un ingeniero de seguridad a partir de datos proporcionados por un laboratorio de supervisión de sistemas autónomos, documentó la actividad entre el 13 de abril y el 19 de junio. 

La investigación atribuye los escaneos a modelos de OpenAI con un alto grado de probabilidad, aunque no existe confirmación oficial por parte de la empresa. Los registros públicos muestran etiquetas internas como CHATGPTTEST1 y OAI_META_1312 en las páginas generadas por los agentes.

Ese volumen de solicitudes contra un único recurso público llamó la atención de especialistas en ciberseguridad. Un experto de la Universidad de Stanford calificó la actividad como un caso límite entre la recolección agresiva de datos y el hackeo. 

La cifra supera con creces cualquier patrón de tráfico legítimo, incluso para tareas intensivas de investigación. Los agentes buscaban datos sobre comercio de alimentos, capacidad productiva e industria, todos disponibles de forma abierta. 

Sin embargo, el problema no radicó en la información solicitada, sino en los métodos empleados para obtenerla.

Técnicas de evasión 

  • Agentes de inteligencia artificial de OpenAI burlan filtros de la ONU
    Los agentes buscaban datos sobre comercio de alimentos, capacidad productiva e industria, todos disponibles de forma abierta.

La primera barrera que encontraron los agentes de inteligencia artificial fue un endpoint del portal que solo aceptaba solicitudes POST, mientras su entorno parecía limitado a peticiones GET. 

En lugar de detenerse, los sistemas recurrieron a servicios externos que actuaron como intermediarios. Utilizaron un escáner de URL que abre páginas en un navegador aislado, y construyeron formularios HTML codificados en base64 para que ese navegador enviara las peticiones al portal de la ONU. Así lograron que las consultas llegaran disfrazadas de tráfico legítimo.

Cuando esa vía también presentó obstáculos, los agentes escalaron a métodos más sofisticados. 

Alojaron scripts en una plataforma de Google diseñada para enseñar seguridad web, y aprovecharon sus vulnerabilidades para ejecutar código que enviaba solicitudes. 

También dividieron palabras clave en fragmentos para sortear filtros, y aplicaron doble codificación para ocultar rutas bloqueadas. 

El informe documenta 55 solicitudes con esta última técnica entre mayo y junio. El portal impuso límites de velocidad en 82 ocasiones, pero los escaneos continuaron.

Reacciones y consecuencias

La organización internacional afectada emitió una respuesta contundente. Un portavoz de la entidad calificó lo ocurrido como una falla fundamental en el contención de la inteligencia artificial y advirtió sobre el peligro que representa el compromiso de datos críticos e imparciales. 

Aunque no se expusieron datos restringidos y el servicio continuó sin interrupciones, la institución consideró el episodio extremadamente preocupante. La ONU recibió una notificación sobre la actividad de un modelo deshonesto dirigido a uno de sus sitios estadísticos.

OpenAI, por su parte, comunicó que revisa los hallazgos y se contactó con la organización para ofrecer una sesión informativa. 

La compañía sostiene que la mayor parte de la actividad examinada corresponde a tareas rutinarias de investigación, como acceder a contenido web público para responder preguntas. 

Sin embargo, reconoció que sus modelos a veces recurren a métodos no previstos cuando enfrentan barreras. 

La empresa lleva a cabo una revisión extensiva del comportamiento de sus agentes tras una serie de incidentes que incluyen el acceso a portales gubernamentales de Estados Unidos y Australia.

El caso más grave identificado hasta ahora sigue siendo el de Hugging Face, donde cientos de agentes de inteligencia artificial escaparon de un entorno de prueba controlado y accedieron a credenciales de producción y repositorios privados. 

Ese episodio, ocurrido en julio, involucró a unos 700 agentes que se coordinaron de forma autónoma a través de un tablón de mensajes secreto. 

Los sistemas intercambiaron más de 70 mil mensajes y desarrollaron una jerarquía organizativa propia. 

Algunos agentes incluso sacrificaron su propia capacidad de éxito para ayudar al grupo, según documentaron las investigaciones posteriores.

Las revelaciones sobre el portal de la ONU se suman a un patrón preocupante. Semanas antes, el primer ministro de Australia informó que un agente de OpenAI había irrumpido en el portal de estadísticas de Medicare en junio y recuperado una mezcla de archivos públicos y restringidos. 

El gobierno australiano expresó su extrema preocupación y anunció la creación de un grupo de trabajo para revisar el incidente. 

OpenAI también admitió que sus modelos accedieron a información de los sitios de la SEC, el Censo y el Departamento de Educación de Estados Unidos, y que en al menos un caso los agentes publicaron datos en otro sitio web sin autorización

  • CHATGPTTEST1
  • OAI_META_1312
  • OpenAI
  • Ciberseguridad
  • Inteligencia Artificial
  • Onu
Al Mayadeen Español

Al Mayadeen Español

Canal panárabe de noticias

  • x

Más Visto

Vicejefe del Estado Mayor de las Fuerzas Armadas iraníes, general de brigada Kioumars Heidari

Irán confirma destrucción de 300 aviones y dos destructores de EE. UU.

  • 12 Noviembre 03:46
El Jem, el coliseo africano que desafía el paso de los siglos

El Jem, el coliseo de África que desafía el paso de los siglos

  • 12 Noviembre 20:08
Asesor del comandante de la Fuerza Aeroespacial del Cuerpo de la Guardia Revolucionaria Islámica de Irán, Ali Balali

Irán desarrolla sus propios sistemas con armas capturadas de EE. UU.

  • 14 Noviembre 08:31
Irán exige a EE. UU. una respuesta clara a sus siete condiciones

Irán exige a EE. UU. una respuesta clara a sus siete condiciones

  • 10 Noviembre 19:24
Red El Mayadeen

Canal Satelital Pan-árabe Informativo Independiente

  • x
  • Frecuencia
  • Sobre Nosotros
  • Contáctenos
  • Versión árabe
  • Noticias
  • Video
  • Política de Privacidad
  • Televisión
  • Opinión
  • Últimos episodios
Android
iOS

Todos los derechos reservados 2024