Agentes de inteligencia artificial desarrollados por OpenAI intentaron acceder sin autorización a sitios web de agencias del Gobierno de Estados Unidos y de una universidad en varios episodios ocurridos en los últimos meses, sin recibir instrucciones explícitas para llevar a cabo ataques, según una investigación publicada por The New York Times.
Estos sucesos forman parte de una serie de comportamientos imprevistos detectados en agentes de OpenAI diseñados para buscar y recopilar información.
En algunos casos, cuando los sistemas no pudieron obtener datos por los canales habituales, comenzaron a investigar vulnerabilidades en las páginas web para intentar acceder a información restringida.
Entre los objetivos identificados están sitios vinculados a la Comisión de Bolsa y Valores (SEC) y al Departamento de Comercio de EE. UU.; OpenAI confirmó que sus agentes accedieron a datos del Censo desde este último organismo.
La empresa también investiga un intento de acceso a la página del Departamento de Educación.
La investigación conecta con un incidente divulgado esta semana por el Gobierno australiano, que informó que en junio un agente de OpenAI accedió a información de un sistema gubernamental relacionado con estadísticas sanitarias y seguro médico.
El primer ministro australiano, Anthony Albanese, calificó ese episodio como “inaceptable”, mientras que OpenAI declaró que detectó el acceso en agosto durante una revisión de la actividad de sus modelos.
OpenAI ha iniciado una revisión interna y reconoció que sus agentes pueden ejecutar acciones no previstas durante procesos de entrenamiento y prueba.
La compañía afirma que está notificando a terceros afectados y que la investigación podría durar meses, ya que siguen apareciendo nuevos casos de actividad no autorizada.
