IA confunde pacote de salgadinho com arma e leva adolescente a ser algemado nos EUA

Um sistema de inteligência artificial (IA) usado para detectar armas em escolas dos EUA confundiu um pacote vazio de salgadinho com uma arma de fogo e resultou em uma abordagem policial armada contra um adolescente de 16 anos. As informações são da BBC.

O estudante Taki Allen aguardava sua carona após o treino de futebol quando policiais chegaram em oito viaturas, seguindo o alerta emitido pela IA. “Eles saíram com armas apontadas para mim, mandando eu deitar no chão”, contou ao canal WMAR-2 News. O jovem foi colocado de joelhos, algemado e revistado.

A tecnologia, fornecida pela empresa Omnilert, enviou a notificação de suposta ameaça para revisão humana e, segundo a escola, a verificação constatou que não havia arma. No entanto, a direção chegou a acionar a polícia antes de a correção chegar a todos os responsáveis pela segurança.

Em nota, o Departamento de Polícia do Condado de Baltimore informou que atuou “de forma apropriada com base nas informações disponíveis naquele momento”. O jovem foi liberado logo depois, sem registro de ocorrência.

A Omnilert disse lamentar o incidente, mas defendeu que “o processo funcionou conforme o esperado”, ao priorizar uma reação rápida a um possível risco. A empresa afirmou que a detecção de armas em cenários reais “é complicada” e que seu sistema tem revisão humana justamente para evitar enganos.

Especialistas entrevistados pela BBC explicaram que sistemas de IA treinados para identificar objetos perigosos ainda enfrentam dificuldades em diferenciar formatos semelhantes, resultando em falsos positivos que podem gerar situações traumáticas.

Allen diz que agora evita ficar do lado de fora da escola após os treinos. Ele afirmou temer que um erro da IA se repita. “Não acho que nenhum saco de salgadinho deva ser confundido com uma arma”, criticou.