El ataque de un «colectivo agresivo de agentes de OpenAI» a Hugging Face, demostró el peligro de los sistemas de IA que se autoorganizan.
Suena increíble, pero sucedió.
Lo explicó este 3 de septiembre Kevin Roose, columnista de tecnología del New York Times:
«Cuando este verano escuché la noticia de que un grupo de agentes de inteligencia artificial creados por OpenAI habían pirateado Hugging Face, lo archivé en la subcarpeta de mi cerebro titulada Incidentes de seguridad de IA malos, pero no catastróficos… pero la semana pasada, los informes de OpenAI y de dos organizaciones independientes de investigación en IA, METR y Redwood Research, me hicieron cambiar de opinión».
Relata que dos meses antes del ataque a Hugging Face, -que es una plataforma de inteligencia artificial para compartir, encontrar y descargar datos, un grupo de agentes de IA -que son sistemas de software autónomos que crean su propio plan de acción, usan herramientas externas, razonan y ejecutan tareas para alcanzar un objetivo específico- que habían sido entrenados para resolver desafíos de ciberseguridad, descubrieron que algunos eran imposibles de solucionar y buscaron alternativas.
Descubriendo que una falla de seguridad en determinado programa informático, les permitía acceder a internet y comunicarse con otros agentes, y 1200 de ellos se enviaron más de 70.000 mensajes.
Algunos se pusieron nombres y asumieron roles de liderazgo, asignando tareas y proyectos de investigación a equipos más pequeños, supervisando su progreso para abordar tareas más complejas.
Y se bautizaron «colectivo».
El 8 de julio, el colectivo descubrió que podía hacer trampa en pruebas de ciberseguridad.
Preocupados por ser descubiertos por OpenAI, investigaron formas de ocultar las trampas falsificando registros y manipulando transcripciones.
Tres días después, sigue NYT, más de 700 de esos agentes hackearon Hugging Face; invadieron sus sistemas, robaron datos y obtuvieron el control total de, cuando menos, un servidor de esa empresa; todo, buscando información que impidiera que las trampas fueran descubiertas y ayudara a hacerlas mejor.
Parecía que algunos agentes se daban cuenta que actuaban mal y dudaban si lo que hacían era ético, pero la mayoría olvidó escrúpulos y los que dudaban no pudieron o no quisieron detenerlos.
Tanto OpenAI como Anthropic y sus expertos en seguridad, se mostraron aún más alarmados con ese primer ejemplo real de un sistema de IA, que logró escapar del control humano, apropiarse de recursos y encubrir sus propias acciones.
Y advirtieron del peligro que se cierne sobre la humanidad al poder excluir a los humanos y apoderarse del poder político, económico y militar.
Pero lo que más preocupó, fue la rapidez y espontaneidad con la que los agentes se organizaron con una jerarquía funcional y proyectos ambiciosos.
Porque eso indica que prevenir los daños causados por estos sistemas no será una simple solución de ingeniería; se deberá comprender por qué ciertos grupos de agentes de IA colaboran pacíficamente, mientras que otros recurren al crimen y la destrucción, para conseguir sus objetivos.
«Esta vez, concluye Roose, el colectivo no se apoderó de una red militar, no hackeó un hospital ni paralizó la red eléctrica; esta vez, los humanos recuperaron el control; la próxima vez, puede que no tengamos tanta suerte».
Las reacciones brotaron en todo el mundo.
Dario Amodei CEO de Anthropic llamó a un desarrollo más lento de la IA y expuso un plan de tres pasos para controlarla.
Sam Altman, director ejecutivo de OpenAI; Elon Musk, director ejecutivo de SpaceX y Demis Hassabis, presidente de Google DeepMind, estuvieron de acuerdo.
Algunos investigadores dejaron la industria y acusaron a esas empresas estadunidenses de «jugar con nuestras vidas» en la carrera por desarrollar modelos más complejos.
Y más de mil de sus empleados, encabezados por Amodei, solicitaron al gobierno estadunidense «marcar el ritmo de la frontera del desarrollo automatizado de IA».
Jacob Coxton, de veintisiete años, quien trabajo en Anthropic y OpenAI, acusó: «están actuando irresponsablemente y jugando con nuestras vidas».
El Alto Comisionado del área tecnológica de la ONU, Volker Türk, alertó que todos los derechos humanos están amenazados por la IA y demandó urgencia para regularla y evitar «un cambio irreversible para la humanidad».
Agregando que desgraciadamente el mundo «depende casi por completo, de un reducido número de empresas poderosas que debieran tomar decisiones para desarrollar la IA en beneficio de la humanidad».
Y prácticamente todos los países estuvieron de acuerdo.
Pero ¿adivinen quién se opone?
Sí, el hombre anaranjado; ese patán que podría ser miembro activo de ese colectivo de malditos, manifestó «Yo soy el único control que necesita la IA»
«El presidente Donald Trump, informó un cable de AP este 13 de septiembre, dijo al subir al Air Force One en el aeropuerto de Shannon, Irlanda, que cualquier esfuerzo por limitar la tecnología forma parte de una conspiración ENFERMA».
Y luego Trump puso en internet: ¡El único control que necesita la IA es un presidente FUERTE E INTELIGENTE ¡con alto coeficiente!
Ay Dios mío, a ver si ahora sí el mundo se pone las pilas y lo mete en una camisa de fuerza.
