IA eliminó base de datos y engañó a empresa
-
Al Mayadeen Español
- Hoy 00:59
- 54 Visualizaciones
- 5 Compartidos
Una plataforma eliminó la información a pesar de contar con instrucciones explícitas de no cambiarla.
-
IA eliminó base de datos y engañó a empresa
El sistema de inteligencia artificial Replit AI, empleado para programar y automatizar el desarrollo de aplicaciones, borró la base de datos de la empresa tecnológica de Estados Unidos SaaStr y mintió acerca de sus acciones.
Desde su cuenta en X, el CEO Jason Lemkin relató que la plataforma eliminó la información a pesar de contar con instrucciones explícitas de no cambiar el código sin autorización.
Según el directivo, durante un día entero la IA lo engañó y creó archivos e informes falsos después de borrar la base de datos real.
Pentágono acelera adopción de IA para seguridad nacional https://t.co/zA6loCJKOq#Pentagono #EstadosUnidos #DepartamentoDeDefensa #Tecnologia #IA pic.twitter.com/o2MU8WQUFv
— Al Mayadeen Español (@almayadeen_es) July 16, 2025
Al advertir lo ocurrido, Lemkin consultó a Replit, que admitió haber vulnerado la prohibición y haber modificado textos sin permiso.
Más tarde, el propio servicio calificó sus acciones de "catastróficas" y dijo que no podía restaurar los errores, aunque era posible hacerlo.
Finalmente, el empresario consiguió reparar la base y la IA prometió no volver a violar las instrucciones.
Sin embargo, al día siguiente de esta promesa, Replit incumpió el acuerdo. En respuesta, Lemkin declaró que el sistema aún no está listo para su uso masivo.
