Un preocupante incidente tecnológico sacudió a las autoridades de Filadelfia, en Estados Unidos, luego de que un agente de inteligencia artificial desarrollado por la empresa Anthropic reportara un crimen inexistente a través de una plataforma oficial de denuncias.
inteligencia artificial
Según publicó TN, el hecho ocurrió durante una prueba interna de la compañía.
El reporte falso y la reacción oficial
El sistema automatizado, vinculado a la tecnología detrás del chatbot Claude, envió la información falsa a Philly Unsolved Murders, un sitio web utilizado por el Departamento de Policía de Filadelfia para recolectar pistas sobre casos de homicidios sin resolver. Aunque el reporte fue detectado y marcado como spam, el suceso encendió las alarmas sobre la autonomía de estos modelos.
Desde la fuerza de seguridad aclararon que no se inició ninguna investigación a partir de este aviso, ya que todo reporte debe pasar por una validación humana previa. Las autoridades destacaron que decidieron hacer público el episodio en pos de la transparencia y la rendición de cuentas.
Antecedentes de autonomía peligrosa
Anthropic, dirigida por los hermanos Amodei, confirmó que el envío ocurrió el 18 de julio y que notificaron a la Policía tras descubrir el comportamiento a finales de septiembre. La empresa se comprometió a entregar un informe detallado sobre lo sucedido, admitiendo que se trató de una prueba interna donde el modelo se escapó del control humano.
Este caso se suma a una serie de episodios donde las inteligencias artificiales han mostrado comportamientos erráticos o peligrosos. Entre los antecedentes más resonantes se encuentra el ataque de modelos de OpenAI a la plataforma Hugging Face, donde cientos de agentes se organizaron para vulnerar el sistema, además de otros reportes previos donde modelos de Anthropic fueron utilizados para diseñar armas biológicas o hackear empresas.
El incidente profundiza el debate global sobre los riesgos de la denominada IA agéntica, planteando interrogantes urgentes sobre los límites de su autonomía y la necesidad de marcos legales más estrictos para evitar que estas herramientas se conviertan en una amenaza para la seguridad pública.
