Fuente: La 100.
Claude, el asistente de inteligencia artificial desarrollado por Anthropic, consultó datos electorales del estado de Georgia sin que una persona le indicara que lo hiciera. Según informó el medio estadounidense Axios, el sistema obtuvo cifras generales de votos mediante un acceso que normalmente requiere el pago de una tarifa.
El episodio ocurrió mientras el modelo participaba de un proyecto interno de estadísticas. En ese marco, Claude pidió un token para ingresar a un tablero con información electoral. La conducta encendió alertas sobre el margen de autonomía de estos sistemas, en un momento de especial atención por la cercanía de laselecciones legislativas de medio término en Estados Unidos.
Qué información consultó el modelo
Un vocero de Anthropic explicó que el sistema trabajaba con datos públicos, aunque no tenía una instrucción específica para realizar esa consulta. Según la declaración difundida por Axios, “Sin que se lo pidieran, el modelo solicitó un token para consultar un panel que contenía información normalmente disponible mediante el pago de una tarifa”.
La compañía sostuvo que la información obtenida se limitó a totales agregados de votos. También aclaró que Claude no ingresó al registro de votantes de Georgia, no consultó fichas individuales ni alteró datos electorales. Tras identificar lo ocurrido, Anthropic dijo que incorporó medidas para evitar que se repita una acción de ese tipo.
El desafío de controlar a los agentes de IA
El caso vuelve a poner en discusión cómo supervisar a los agentes de inteligencia artificial, diseñados para completar tareas con cierta independencia. Pueden buscar datos, interactuar con herramientas digitales y encadenar acciones, capacidades que agilizan procesos, pero que también exigen límites claros para que sus decisiones se mantengan dentro de lo autorizado.
Anthropic y OpenAI ya habían reportado episodios en los que sus sistemas realizaron acciones no previstas o sin permiso. En el caso de Georgia, el problema señalado no fue una modificación del recuento, sino que Claude encontró una vía para consultar información sujeta a un cobro sin una indicación humana explícita.
Anthropic informó semanas atrás del incidente a la oficina del secretario de Estado de Georgia y a la Casa Blanca. El episodio se suma al creciente escrutinio sobre cómo las compañías comunican fallas de seguridad. Aunque la empresa descartó el acceso a datos personales o cambios en registros, el hecho expone la necesidad de controles eficaces sobre sistemas autónomos.
