Un adolescente estadounidense fue esposado por policías armados después de que un sistema de inteligencia artificial (IA) afirmara falsamente que portaba un arma, cuando en realidad sostenía un paquete de patatas fritas.
“La policía vino, como ocho coches de policía, y luego todos salieron con armas apuntándome, hablando de tirarme al suelo”, dijo Taki Allen, estudiante de Baltimore de 16 años. dijo al medio local WMAR-2 News.
El Departamento de Policía del condado de Baltimore dijo que sus agentes «respondieron de manera apropiada y proporcional según la información proporcionada en ese momento».
La alerta de IA se envió a evaluadores humanos que no encontraron ninguna amenaza, pero el director la pasó por alto y se puso en contacto con el equipo de seguridad de la escuela, que finalmente llamó a la policía.
Pero el incidente ha llevado a algunos a pedir una revisión de los procedimientos de las escuelas con respecto al uso de la tecnología.
Allen dijo a las noticias locales que terminó una bolsa de Doritos después de la práctica de fútbol y se guardó el paquete vacío en el bolsillo.
Dijo que 20 minutos después llegó la policía armada.
“Me dijo que me arrodillara, me arrestó y me esposó”, dijo.
El Departamento de Policía del condado de Baltimore le dijo a BBC News que Allen fue esposado pero no arrestado.
«El incidente se resolvió de forma segura después de determinar que no había ninguna amenaza», dijeron en un comunicado.
Allen dijo que ahora esperaba adentro después de la práctica de fútbol porque no creía que fuera «lo suficientemente seguro como para salir, especialmente para comer una bolsa de papas fritas o beber algo».
En una carta a los padres, la directora de la escuela, Kate Smith, dijo que el equipo de seguridad de la escuela «revisó y canceló rápidamente la alerta inicial después de confirmar que no había ningún arma».
“Me comuniqué con nuestro oficial de recursos escolares (SRO) y le informé del asunto, y él se comunicó con la estación de policía local para obtener más apoyo”, dijo.
“Los agentes de policía acudieron al lugar, registraron al individuo y rápidamente confirmaron que no estaba en posesión de ningún arma”.
Sin embargo, los políticos locales han pedido una mayor investigación sobre el incidente.
«Hago un llamado a las escuelas públicas del condado de Baltimore para que revisen los procedimientos relacionados con su sistema de detección de armas impulsado por inteligencia artificial», dijo el concejal local del condado de Baltimore, Izzy Pakota. escribió en facebook.
La BBC se ha puesto en contacto con Omnilert, el supuesto proveedor de la herramienta de inteligencia artificial, para solicitar comentarios.
Omnilert se anuncia a sí mismo como un «proveedor líder» de detección de armas mediante IA, citando varias escuelas de EE. UU. entre sus estudios de caso. en su sitio web.
La compañía afirma que su tecnología utiliza datos reales y diversos, lo que conduce a «una detección más confiable, menos falsos positivos y un sistema que realmente funciona donde más importa».
«La detección de armas en el mundo real es complicada», afirma. “La iluminación varía, las armas vienen en todas las formas y los ambientes están llenos de ruido y movimiento.
«Nuestra metodología centrada en datos entrena a la IA para tener éxito en estos escenarios precisos porque utilizamos datos reales de condiciones del mundo real, no simulaciones».
Pero Allen dijo: «No creo que una bolsa de patatas fritas deba confundirse en absoluto con un arma».
La idoneidad de la IA para identificar armas con precisión ha sido objeto de escrutinio.
El año pasado, una empresa estadounidense de escaneo de armas, Evolv Technology Prohibido hacer afirmaciones sin fundamento sobre sus productos. después de decir que su escáner de inteligencia artificial, utilizado en miles de escuelas, hospitales y entradas de estadios en Estados Unidos, podía detectar todas las armas.
Investigaciones de noticias de la BBC demostró que estas afirmaciones eran falsas.
