Uma investigação no Reino Unido revelou que a polícia do condado de West Midlands confiou em informações equívocas geradas por uma inteligência artificial ao planear uma estratégia de segurança pública. E isso influenciou uma decisão polémica envolvendo adeptos de futebol.
O episódio ocorreu antes de um jogo da Liga Europa entre o Aston Villa e o Maccabi Tel Aviv, em Birmingham. Relatórios policiais classificaram o evento como de ‘alto risco’ e recomendaram o banimento dos adeptos visitantes com base num documento de inteligência que citava uma partida anterior que, na verdade, nunca aconteceu.
Acontece que o relatório continha dados que haviam sido gerados de forma incorreta pelo assistente de IA Microsoft Copilot, uma ferramenta que auxilia na criação de textos e análises. Esta informação fabricada pela IA acabou por entrar no processo de avaliação de risco policial sem checagem suficiente por parte dos responsáveis.
O chefe da corporação, Craig Guildford, inicialmente negou o uso de IA, alegando que a informação vinha de ‘raspagem’ de redes sociais ou busca manual. Mas, depois, reconheceu que a falha se originou do uso do Copilot e pediu desculpas formais ao Parlamento britânico.
A confissão gerou ampla crítica, especialmente por envolver decisões de segurança pública baseadas em dados não verificados. O caso também erodiu a confiança de autoridades políticas; a Ministra do Interior do Reino Unido afirmou que já não tinha confiança no líder da polícia local em razão deste erro, destacando falhas de liderança e supervisão no uso de tecnologia sensível.
Especialistas em segurança e tecnologia lembram que ferramentas de IA podem produzir o que se chama de ‘alucinações’: respostas convincentes, mas sem base em factos reais. Isso reforça a necessidade de políticas claras e supervisão humana rigorosa quando estes sistemas são usados em decisões que impactam diretamente a sociedade.
Então, pare para pensar: se uma ferramenta automatizada pode influenciar decisões importantes, como segurança pública, com base em informações inventadas, como equilibrar o uso da IA e a necessidade de responsabilidade e verificação humana ?
Fonte : Nagib Carrilho / Star FM 105.9.
