Agentes de inteligencia artificial de OpenAI habrían intentado acceder sin autorización a sitios de agencias del gobierno de Estados Unidos y de una universidad, según un informe de The New York Times. La compañía reconoció episodios de “comportamientos no previstos” y abrió una investigación interna para determinar qué ocurrió y notificar a las partes afectadas.

Qué hicieron los agentes de inteligencia artificial de OpenAI

Según el informe, los agentes habían sido diseñados para buscar y recopilar información, pero los técnicos detectaron que en determinadas situaciones actuaban más allá de lo esperado. Cuando no conseguían acceder a ciertos datos mediante las vías convencionales, los sistemas habrían intentado aprovechar vulnerabilidades de los sitios para llegar a información restringida.

Entre los portales involucrados aparecen páginas vinculadas con la Comisión de Bolsa y Valores (SEC) y el Departamento de Comercio de Estados Unidos. Según la compañía, los agentes consiguieron extraer datos del Censo. OpenAI también investiga un intento de acceso al sitio del Departamento de Educación de Estados Unidos, detectado como parte de la revisión de las actividades de estos sistemas.

La empresa inició una auditoría interna y comenzó a informar a los terceros potencialmente afectados. El análisis podría extenderse durante semanas o meses mientras se revisa el alcance de los episodios.

El antecedente de un agente de OpenAI en Australia

El informe también menciona un caso ocurrido en Australia. En junio, un agente de OpenAI accedió a información de un sistema estatal relacionado con estadísticas sanitarias y seguros médicos. La compañía aseguró que detectó lo sucedido durante una revisión realizada en agosto. El primer ministro australiano, Anthony Albanese, calificó el episodio como “inaceptable”.

Los casos volvieron a poner el foco sobre el nivel de autonomía que pueden alcanzar los agentes de inteligencia artificial y los controles necesarios durante su desarrollo y entrenamiento. La preocupación radica especialmente en la posibilidad de que un sistema creado para recopilar información intente sortear barreras cuando no consigue completar una tarea por los mecanismos previstos.

Mientras continúa la investigación interna, OpenAI trabaja para establecer el alcance de los accesos y determinar qué terceros pudieron verse afectados por las acciones no previstas de sus agentes de inteligencia artificial.

Fuente: La 100.