Secretaria de Segurança do ES admite erro em fotos de apreensões geradas por IA e determina apuração interna; veja FOTOS

AI Summary

The Espírito Santo Public Security Secretariat admitted errors in the use of AI-generated modifications on police seizure photos, leading to distorted images of drugs, money, and ammunition. An internal investigation has been ordered to identify other cases and prevent further misuse of AI in official communications.

Secretaria de Segurança Pública do Espírito Santo Reprodução/Sesp A Secretaria de Estado da Segurança Pública e Defesa Social (Sesp) confirmou o uso de ferramentas de Inteligência Artificial (IA) para a edição de imagens de apreensões realizadas pelas polícias Civil e Militar. Um levantamento exclusivo realizado pelo g1 apontou distorções em fotos divulgadas pelas corporações com erros em drogas, cédulas e munições. Por nota, a pasta declarou reconhecer que o uso foi "inadequado" e que determinou uma apuração interna para identificar se há outros casos similares (veja a nota na íntegra ao final da reportagem). 📲 Clique aqui para seguir o canal do g1 ES no WhatsApp “A Sesp reconhece que o encaminhamento foi inadequado e informa que já orientou as áreas responsáveis para que recursos de inteligência artificial generativa não sejam utilizados em fotografias destinadas à divulgação de materiais apreendidos, de forma a garantir a fidelidade dos registros apresentados à sociedade”, disse a nota. Entenda o levantamento Imagens de apreensões divulgadas pelas polícias Civil e Militar do Espírito Santo foram modificadas por ferramentas de inteligência artificial (IA). A investigação realizada pelo g1 revelou falhas como cédulas de Real deformadas, munições flutuantes e pinos de cocaína distorcidos. O levantamento exclusivo, realizado ao longo do mês de agosto, analisou os materiais distribuídos pelas assessorias das corporações a veículos de imprensa e revelou que ao menos oito supostos registros de apreensões de drogas e armas não são fotografias documentais autênticas. Polícia do ES divulga fotos de apreensões modificadas por IA com distorções Os exames técnicos — feitos por especialistas e ferramentas de detecção de IA — revelam também itens duplicados e armas mecanicamente incoerentes. Segundo o advogado criminalista Raphael Boldt, a manipulação das imagens pode colocar sob suspeita outras divulgações e até elementos de prova produzidos pelas corporações. “Mesmo sem integrar o inquérito, essa prática pode produzir desinformação institucional, violar direitos de pessoas identificáveis, justificar direito de resposta e indenização e, em situações mais graves, gerar responsabilização administrativa ou penal”, destacou. Como análise foi feita As oito imagens, enviadas pelas corporações entre os dias 4 e 28 de agosto no WhatsApp, foram analisadas pelo g1 com o auxílio de especialistas em inteligência artificial e de ferramentas de detecção de conteúdo gerado ou modificado por IA. ⬇️ Veja mais abaixo todas as fotos modificadas e os erros encontrados. As fotografias foram submetidas a três detectores: Hive Moderation, Is It AI? e AI or Not. Os percentuais apresentados ao longo da reportagem correspondem aos índices atribuídos por cada ferramenta à possibilidade de uso de inteligência artificial nas imagens. Os resultados variaram entre as plataformas. Em alguns casos, uma ferramenta apresentou um índice baixo, enquanto as demais apontaram percentuais elevados. Por isso, os resultados dos detectores não foram considerados isoladamente, mas confrontados com as distorções encontradas nas imagens e com a análise técnica do material. Segundo o especialista em Inteligência Artificial, Breno Lobato, todas as imagens analisadas possuem indícios de manipulação por IA. "Dá para ver pelas notas, que não tem consistência, informações que não batem, números e informações incoerentes e inconsistentes. Onde não há imagem de nota, fica bem evidente pela textura dos panos das bandeiras do qual as tramas, sombra e impressão estão 'fakes'", destacou. Procurada pelo g1, a Secretaria de Estado da Segurança Pública e Defesa Social (Sesp) confirmou que identificou o "uso de recursos de inteligência artificial na edição de algumas imagens de materiais apreendidos encaminhadas à imprensa". Por nota, a pasta afirmou que as imagens citadas na reportagem foram enviadas exclusivamente para fins de divulgação e não integram os registros oficiais das ocorrências ou investigações (veja a nota na íntegra no final do texto). Veja as distorções encontradas Nota de R$ 100 reais com distorções em imagem divulgada pela Polícia Militar do Espírito Santo Arte/g1 A imagem foi divulgada pela Polícia Militar no dia 28 de agosto após uma operação no bairro Jaburuna, em Vila Velha. Segundo a corporação, foram apreendidas seis armas de fogo, duas granadas, drogas, dinheiro e rádios comunicadores. Entre as distorções visíveis estão alterações nas cédulas de Real. Em uma das notas, aparece uma figura semelhante à silhueta de um homem, elemento que não faz parte do desenho original da cédula. Números, inscrições e outros detalhes gráficos do dinheiro também aparecem deformados e pouco definidos. Há ainda irregularidades em detalhes de armas, carregadores e munições. Alguns componentes apresentam contornos pouco definidos ou formatos diferentes entre objetos aparentemente semelhantes. DETECTORES DE IA: Hive 29.6% | Is It AI? 98% | AI or Not 77% Imagem com ind