Um estudante da Lawton Chiles Middle School em Oviedo, na Florida, estava simplesmente a caminhar pelo corredor com o seu clarinete quando os alarmes dispararam. O sistema automatizado de deteção de armas da escola identificou o instrumento musical como uma possível arma de fogo, ativando um “Code Red” que colocou toda a instituição em confinamento na manhã de 9 de dezembro.
De acordo com as Escolas Públicas do Condado de Seminole, o alerta foi disparado quando o estudante foi visto nas câmaras a segurar o instrumento de uma forma que o sistema interpretou como semelhante à postura de alguém a segurar uma arma. A resposta foi imediata: portas trancadas, estudantes escondidos e polícia a caminho.
A diretora da escola, Dr. Melissa Laudani, enviou uma mensagem às famílias explicando o incidente: “Temos múltiplas camadas de segurança escolar, incluindo um sistema automatizado que deteta potenciais ameaças. Um estudante estava a caminhar no corredor, segurando um instrumento musical como se fosse uma arma, o que desencadeou a ativação do Code Red”.
O confinamento foi levantado assim que o pessoal e as autoridades confirmaram que não havia nenhuma arma e que o objeto em questão era um instrumento da banda. A polícia de Oviedo também divulgou uma declaração na sua página de Facebook, chamando ao Code Red uma “precaução” e garantindo que “as crianças nunca estiveram em perigo”.
Embora não tenha havido qualquer ameaça real ao campus, a diretora aproveitou para fazer um pedido aos pais: “Enquanto não houve ameaça ao campus, gostaria de vos pedir que conversem com o vosso estudante sobre os perigos de fingir ter uma arma num campus escolar”.
O sistema em questão parece ser o ZeroEyes, uma plataforma de deteção de armas baseada em inteligência artificial que tem vindo a ser implementada em dezenas de distritos escolares por toda a Florida. O sistema integra-se com as câmaras de segurança existentes e usa IA para analisar feeds de vídeo em tempo real à procura de objetos que se assemelhem a armas de fogo.
Quando uma potencial arma é detetada, as imagens são enviadas para o centro de operações da ZeroEyes na Filadélfia, onde oficiais militares e de aplicação da lei reformados verificam se o objeto é realmente uma arma. Se a ameaça for confirmada, a informação é transmitida aos socorristas e ao pessoal escolar em três a cinco segundos.
A ZeroEyes foi fundada em 2018 em resposta ao tiroteio na Marjory Stoneman Douglas High School em Parkland, Florida, que deixou 17 mortos. Segundo Sam Alaimo, cofundador da empresa, a tecnologia está implementada em 43 estados americanos, incluindo hospitais, arenas desportivas, centros comerciais e escolas. A plataforma pode detetar mais de 100 tipos diferentes de armas de fogo.
O Condado de Seminole, onde se localiza Oviedo, implementou o sistema como parte de uma estratégia de segurança de múltiplas camadas. No entanto, quando questionado sobre quantas ameaças reais foram impedidas graças ao software ZeroEyes, o distrito recusou-se a divulgar essa informação.
A própria ZeroEyes também se recusou a fornecer dados sobre a eficácia real do sistema, o que significa que podem existir mais casos de alarmes falsos de que pais, estudantes e a comunidade não têm conhecimento.
Este não é um incidente isolado. Especialistas em segurança escolar têm levantado questões sobre a eficácia e fiabilidade destes sistemas de deteção baseados em IA. Michael Dorn, diretor executivo da Safe Havens International, uma organização sem fins lucrativos especializada em avaliações de segurança para escolas, afirmou que receber um alerta assim que uma arma é brandida não equivale a prevenir que alguém dispare essa arma, uma vez que a violência tende a acontecer muito rapidamente.
A proliferação destes sistemas levanta questões mais amplas sobre a eficácia da vigilância baseada em IA nas escolas. Em vários estados onde a ZeroEyes tem lobistas registados, os legisladores têm financiado compras de segurança escolar, às vezes emitindo requisitos tão específicos que a ZeroEyes é a única concorrente legal, apesar de existirem outros produtos similares no mercado.
Para os estudantes da Lawton Chiles Middle School, a experiência foi real e potencialmente assustadora. Passar por um “Code Red”, mesmo que seja um falso alarme, não é uma experiência trivial para crianças do ensino básico. O protocolo envolve trancar portas, desligar luzes e esconder-se em silêncio até que as autoridades declarem a situação segura.
A mensagem da diretora aos pais sugere que a responsabilidade recai sobre o estudante por segurar o instrumento de uma forma que desencadeou o alarme. Mas críticos argumentam que o problema não está na forma como um estudante segura um clarinete, mas sim na fiabilidade e sensibilidade de sistemas de IA que ainda estão longe de ser perfeitos.
