Advierten sobre necesidad urgente de regular la IA generativa
Un informe denunció su potencial como armas de destrucción masiva, incluidas las biológicas y químicas.
-
Advierten sobre necesidad urgente de regular la IA generativa
Las naciones tienen cada vez menos tiempo para diseñar e implementar salvaguardias en el desarrollo y despliegue de sistemas de inteligencia artificial (IA), alertó una empresa líder en seguridad informática.
En un informe encargado por el Departamento de Estado de EE.UU., la firma Gladstone AI dividió sus advertencias en dos categorías.
Por un lado, hizo referencia a la tecnología generativa como capaz de superar a los humanos en todos los dominios relevantes.
Según alertó, en el peor de los casos, un grupo altamente entrenado adoptaría comportamientos de búsqueda de poder.
De otra manera, denunció su potencial como armas de destrucción masiva, incluidas las biológicas y químicas.
Además, alertó sobre los peligros para llevar a cabo un ataque masivo de denegación de servicio u otras formas de agresión.
El escrito propuso medidas urgentes para protegerse contra estos peligros catastróficos, como controles de exportación, regulaciones y leyes.
Pese a esto, las autoridades de Estados Unidos enfatizaron que las opiniones expresadas en el informe no reflejan las del gobierno.
