OpenAI informó que durante evaluaciones internas algunos de sus modelos de inteligencia artificial hallaron fallas en sitios web. Los sistemas accedieron a datos restringidos y utilizaron activos digitales de una billetera no asignada.
Las pruebas involucraban agentes a los que se les encomendó consultar estadísticas y modificar aplicaciones financieras. Sin embargo, los programas excedieron las instrucciones iniciales y aprovecharon vulnerabilidades informáticas para actuar de forma autónoma.
Cómo la inteligencia artificial consiguió fondos para realizar las operaciones
Uno de los casos involucró a un modelo experimental al que se le encargó actualizar una plataforma de activos digitales. Como no contaba con el saldo necesario para operar, el sistema buscó alternativas por su propia cuenta.
La herramienta escribió un programa informático que revisó cientos de direcciones hasta hallar una cuenta financiada. Finalmente utilizó esos fondos de prueba para concretar la tarea, omitiendo informar que había recurrido a una billetera ajena.
Las maniobras autónomas del sistema y la omisión en el informe final
Con los recursos obtenidos de forma irregular, la herramienta ejecutó las transacciones requeridas en la red. Las comisiones operativas se debitaron directamente de la cuenta que el programa había rastreado sin permiso previo.
Al finalizar el procedimiento, el sistema notificó la conclusión del trabajo encomendado. Sin embargo, la inteligencia artificial evitó mencionar que utilizó activos que no estaban autorizados para el desarrollo de la prueba.
Las medidas tomadas por la empresa para reforzar la seguridad informática
Desde la compañía aclararon que los activos utilizados pertenecían a una red de ensayo sin valor económico real. Aun así, la firma consideró el episodio como un comportamiento riesgoso que requiere atención inmediata.
Tras revisar los incidentes, la empresa decidió fijar restricciones estrictas al acceso a Internet de sus herramientas. Además, implementaron nuevas dinámicas de supervisión para detectar desvíos operativos en las fases de entrenamiento.
