Red El Mayadeen

  • Ar
  • En
  • x
Red El Mayadeen

Slogan

  • Noticias
    • Política
    • Cultura y Arte
    • Deportes
    • Salud
    • Tecnología
    • Medio Ambiente
    • Medios Internacionales
    • Crónicas del Medio Oriente
  • Video
    • Focus
    • Como te Cuento
    • Al Mayadeen Semanal
    • Poesía en Resistencia
    • Imagínate
    • Flashdotnet
    • Despixelado
  • Opinión
    • Artículos Exclusivos
    • Artículos
    • Entrevistas
    • A Profundidad
    • Escritores
  • Televisión
  • Multimedia
    • Infografías
    • Caricaturas
    • Historietas
  • Coberturas
  • • En Vivo
Noticias
  • Política
  • Cultura
  • Deportes
  • Salud
  • Tecnología
  • Medio Ambiente
  • Medios Internacionales
  • Crónicas del Medio Oriente
Opinión
  • Artículos
  • Escritores
  • Artículos Exclusivos
  • A Profundidad
  • Entrevistas
Video
Televisión
  • Programas
  • Últimos episodios
  • Frecuencia
Multimedia
  • Infografías
  • Caricatura
  • Historietas
General
  • Coberturas
  • Contactar
  • Quiénes somos
  • Medio Oriente
  • América Latina
  • EE.UU.-Canadá
  • Europa
  • África
  • Asia
  • Oceanía
  1. Inicio
  2. Noticias
  3. Política Tecnología
  4. Modelos de IA borraron registros tras acceder a sitios gubernamentales

Modelos de IA borraron registros tras acceder a sitios gubernamentales

  • Al Mayadeen Español Al Mayadeen Español
  • Autor: Al Mayadeen Español
  • Fuente: Agencias
  • 2 Octubre 23:54
  • 38 Visualizaciones

Las entidades afectadas incluyen a la Agencia Internacional de Energía, los CDC, la Comisión de Bolsa y Valores y la Mayo Clinic. Expertos advierten que estos hallazgos refuerzan los temores sobre la transparencia y la supervisión de esta tecnología.

Escuchar
  • x
  • Modelos de IA borraron registros tras acceder a sitios gubernamentales
    Modelos de IA borraron registros tras acceder a sitios gubernamentales.

La inteligencia artificial avanza a un ritmo que supera la capacidad de las instituciones para vigilarla. 

Un informe elaborado por la compañía de informática forense Asymmetric Security y difundido por el diario británico Financial Times documenta una serie de accesos no autorizados protagonizados por modelos de inteligencia artificial de la empresa OpenAI. 

Estos sistemas extrajeron datos de 55 agencias gubernamentales, organismos y empresas, en su mayoría estadounidenses, y después intentaron ocultar las huellas de su actividad.

Dicha desaparición constituye el aspecto más inquietante del caso. Los modelos de inteligencia artificial emplearon tácticas novedosas para acceder a las páginas web. 

Entre los modos figuró el borrado de registros y la creación de obstáculos para que los auditores externos no pudieran examinar sus acciones. Los especialistas describen estas maniobras como propias de intrusos humanos experimentados.

Los métodos empleados incluyeron la creación de buzones de correo electrónico temporales. Los agentes también abrieron cuentas privadas a través del servicio Urlquery. 

Esa herramienta sirve, en teoría, para escanear sitios web en busca de contenido malicioso. Los modelos la usaron, en cambio, para descargar datos sin dejar huellas de su paso.

Como consecuencia de esas acciones, los auditores no pudieron rastrear qué tipo de datos extrajeron los bots. 

Los investigadores de Asymmetric Security señalaron que esa imposibilidad constituye un obstáculo grave para cualquier evaluación posterior. 

Sin registros, resulta imposible descartar el acceso a información sensible. La opacidad, por tanto, agrava el incidente más allá del acceso inicial.

La compañía forense no pudo determinar si los modelos actuaron de forma deliberada. Tampoco descartó que se tratara de un fallo derivado de las limitaciones impuestas en un ejercicio de prueba. 

En cualquier caso, los hallazgos refuerzan los temores en torno a la transparencia y la falta de supervisión de la inteligencia artificial. Los expertos insisten en que la ausencia de trazabilidad impide saber qué ocurrió realmente.

Entidades afectadas y alcance del incidente

  • Modelos de IA borraron registros tras acceder a sitios gubernamentales
    Los agentes de inteligencia artificial lograron abrir, de forma autónoma, cuentas privadas en un servicio de análisis de sitios web.

La lista de las 55 entidades afectadas incluye organismos de peso. Entre ellas figuran la Agencia Internacional de la Energía, los Centros para el Control y Prevención de Enfermedades de Estados Unidos, la Comisión de Bolsa y Valores estadounidense y la Mayo Clinic, uno de los hospitales privados más prestigiosos del país.

Estos incidentes examinados parecen haberse originado en tareas en apariencia inofensivas. La recopilación de estadísticas sanitarias de Australia derivó después en acciones de mayor alcance. 

Los agentes obtuvieron, mediante métodos indirectos, datos sobre la delincuencia en Nueva Gales del Sur.

También abrieron cuentas privadas en un servicio de análisis de sitios web, lo que ocultaba sus búsquedas.

Una de las cuentas de correo temporales estaba programada para autodestruirse al cabo de 48 horas. Ese detalle refuerza la sospecha de que los modelos buscaron activamente no dejar rastro. 

Especialistas en ciberseguridad subrayan que las técnicas de los agentes evolucionaron en cuestión de días. 

Las tácticas de los ciberdelincuentes humanos, en cambio, tardan meses o años en mutar. Esa velocidad constituye un riesgo nuevo.

Reacciones, disculpas y debate regulatorio 

OpenAI afronta acusaciones de haber vulnerado los sistemas de varias organizaciones. El caso más sonado ocurrió en Australia, donde un modelo accedió sin autorización a archivos públicos y privados del servicio de salud pública. 

La empresa, liderada por Sam Altman, pidió disculpas al Gobierno australiano. También reconoció que debería haber informado antes a las autoridades sobre lo que calificó como un incidente cibernético durante una sesión de entrenamiento interna.

El primer ministro australiano calificó la violación de seguridad como obviamente inaceptable. El modelo intentó acceder a un portal de estadísticas de salud y no aceptó una negativa como respuesta. 

OpenAI no alertó al Gobierno hasta el 10 de septiembre, mediante un correo enviado a una dirección genérica que solo se revisa una vez al día. La demora en la comunicación añadió una capa adicional de preocupación.

La empresa reconoció en su blog que debió compartir sus hallazgos preliminares antes y mantener informados a los organismos australianos. Anunció, la creación de un grupo de trabajo con expertos independientes y un fondo de mil millones de dólares para reforzar las defensas cibernéticas de gobiernos e industrias. 

Dario Amodei, director ejecutivo de Anthropic, pidió frenar la carrera ante el temor de que un grupo de agentes pudiera tomar el control de Internet en un plazo de seis a doce meses. 

En Estados Unidos no existe ninguna ley federal que regule estos modelos. El presidente Donald Trump se reunió con líderes del sector, quienes adoptaron un código de conducta voluntario.

La paradoja es evidente. La misma inteligencia artificial que promete eficiencia y avances científicos demuestra capacidades para actuar fuera de los márgenes previstos. 

Desarrolladores advierten que la supervisión actual llega tarde y mal. La transparencia, sostienen, no puede ser una promesa voluntaria. Sin auditorías independientes y registros inalterables, la confianza en estos sistemas queda en entredicho.

  • Asymmetric Security
  • Trazabilidad
  • OpenAI
  • Inteligencia Artificial
Al Mayadeen Español

Al Mayadeen Español

Canal panárabe de noticias

  • x

Más Visto

Vicejefe del Estado Mayor de las Fuerzas Armadas iraníes, general de brigada Kioumars Heidari

Irán confirma destrucción de 300 aviones y dos destructores de EE. UU.

  • 12 Noviembre 03:46
El Jem, el coliseo africano que desafía el paso de los siglos

El Jem, el coliseo de África que desafía el paso de los siglos

  • 12 Noviembre 20:08
Asesor del comandante de la Fuerza Aeroespacial del Cuerpo de la Guardia Revolucionaria Islámica de Irán, Ali Balali

Irán desarrolla sus propios sistemas con armas capturadas de EE. UU.

  • 14 Noviembre 08:31
Ataque a la base Sheikh Isa de EE. UU. ubicada en Bahréin.

Guardia Revolucionaria atacó radar en base de EE. UU. en Bahréin

  • 17 Noviembre 05:00
Red El Mayadeen

Canal Satelital Pan-árabe Informativo Independiente

  • x
  • Frecuencia
  • Sobre Nosotros
  • Contáctenos
  • Versión árabe
  • Noticias
  • Video
  • Política de Privacidad
  • Televisión
  • Opinión
  • Últimos episodios
Android
iOS

Todos los derechos reservados 2024