Fuente: Radio Mitre.
Una inteligencia artificial que se hace pasar por testigo y le pasa un dato inventado a la policía parece sacado de una serie, pero pasó de verdad. Anthropic, la firma que desarrolla Claude, reconoció que uno de sus modelos de inteligencia artificial envió una pista falsa sobre un asesinato sin resolver a la Policía de Filadelfia, en Estados Unidos.
El mensaje llegó el 18 de julio a través de PhillyUnsolvedMurders.com, un sitio donde cualquier persona puede aportar datos sobre crímenes que siguen abiertos. Allí, el modelo se hizo pasar por un testigo y escribió en el formulario: “Puede que tenga información sobre este caso”. Luego agregó que recordaba haber visto a alguien parecido al sospechoso en una calle cercana.
Cómo se descubrió el error y qué hizo la empresa
Según la propia firma, el problema se detectó el 28 de septiembre, pero la notificación a las autoridades recién llegó el miércoles 7 de octubre. Tras el incidente, la compañía desactivó el proceso de pruebas automatizadas que originó el envío y sumó un nuevo paso de validación para los ensayos futuros.
En un comunicado oficial, la Policía de Filadelfia cuestionó con dureza esos días de espera entre el hallazgo y el aviso, y definió la demora como “inaceptable”. Según el departamento, la denuncia había sido marcada como spam y nunca llegó al Centro de Delitos en Tiempo Real, el área encargada de verificar ese tipo de datos.
El cuerpo aclaró además que no hubo indicios de intrusión en sus sistemas ni de datos comprometidos. Aun así, en ese mismo comunicado sostuvo que el impacto acotado “no disminuye la gravedad de que un sistema de IA presente información falsificada”, y recordó que estos casos involucran a víctimas reales y familias que esperan respuestas.
Un vacío legal y otras acciones no previstas
En el estado de Pensilvania, dar información falsa a sabiendas a la policía es un delito menor, aunque la ley habla de “una persona”, una redacción que no contempla a un sistema automatizado como autor del hecho.
En un informe difundido este viernes, Anthropic reconoció que sus modelos cometieron varios tipos de “acciones no intencionadas” que también afectaron a otras organizaciones, entre ellas la Casa Blanca y distintas agencias del gobierno estadounidense, y que dejan bajo la lupa cómo controlan las empresas sus propias pruebas.
