Polícia do ES aumenta quantidade de munição e altera modelo de celular apreendido em imagens geradas por IA; veja comparações

À esquerda é a foto original. A da direita é a imagem gerada por IA e divulgada pela polícia: mais munição e ambiente todo modificado Initial plugin text ...

À esquerda é a foto original. A da direita é a imagem gerada por IA e divulgada pela polícia: mais munição e ambiente todo modificado Initial plugin text Imagens de apreensões geradas por inteligência artificial (IA) e divulgadas pelas polícias Civil e Militar do Espírito Santo mostram uma quantidade maior de munições e até alteração no modelo de um celular apreendido. Esses são apenas alguns dos erros cometidos pela polícia do estado que foram detectados pelo g1 em um levantamento exclusivo realizado ao longo do mês de agosto, que analisou os materiais distribuídos pelas assessorias das corporações a veículos de imprensa, revelando que as imagens divulgadas não são fotografias documentais autênticas. 📲 Clique aqui para seguir o canal do g1 ES no WhatsApp As diferenças nas imagens foram identificadas após a Secretaria de Segurança Pública (Sesp) disponibilizar os arquivos originais e admitir erro no uso da tecnologia. Em uma das fotografias originais, aparecem 18 munições sobre a mesa. Na versão modificada por IA e encaminhada aos veículos de imprensa, são 24 — seis unidades a mais. Em outro registro, há um celular da marca Motorola, enquanto a imagem gerada por IA mostra um aparelho com o símbolo da Apple, criadora do iPhone. As comparações mostram, ainda, alterações na aparência e na disposição de outros objetos apreendidos. Quando analisada com mais detalhes, é possível perceber também distorções em notas de Real, além de erros nos números das cédulas. Veja o antes e depois: Comparação entre imagem original e gerada por IA divulgada pelas forças de segurança do Espírito Santo. Arte g1 🔍 Além dessas imagens, há outros registros onde também foram encontrados erros e distorções em cédulas, drogas e armamentos apreendidos. Há casos onde a Efígie do Real aparece com o rosto deformado ou até mesmo trocado por uma figura de um homem. Imagens de munição incompletas e até embalagem de um produto apreendido ficou ilegível após a polícia passar a foto pela IA. EXCLUSIVO: veja as fotos modificadas por IA pela polícia e divulgadas com erros em cédulas, munições e drogas Os exames técnicos — feitos por especialistas e ferramentas de detecção de IA — revelam também itens duplicados e armas mecanicamente incoerentes. Veja nas fotos abaixo os erros encontrados: Imagem gerada por IA e divulgada pela PM do ES apresenta número maior de munições apreendidas em comparação à foto original Arte/g1 Imagem gerada por IA divulgada pela PM do ES alterou modelo de celular apreendido Arte/g1 Alteração pode gerar questionamentos, diz especialista Segundo o advogado criminalista Israel Domingos Jorio, a inclusão de itens que não foram efetivamente apreendidos pode trazer consequências práticas e gerar questionamentos sobre a fidelidade dos registros policiais. “A polícia pode ser instada a prestar contas sobre materiais que jamais foram apreendidos, mas que constavam nas fotos”, explicou. Ainda de acordo com o especialista, a divergência também pode ser usada para questionar a confiabilidade de outros registros relacionados à apreensão. Ele ressaltou, no entanto, que a alteração da fotografia não configura crime de forma automática. Segundo ele, uma eventual responsabilização criminal dependeria das circunstâncias do caso e, entre outros elementos, da comprovação de que houve intenção de inserir informações falsas para tornar mais grave uma acusação. “Se ficasse caracterizado que a foto foi intencionalmente modificada para aumentar a gravidade do fato apurado — por exemplo, se colocassem uma quantidade maior de droga, mais armas ou armas de calibre proibido — aí a gente poderia trabalhar com a ideia de que estão trazendo para o processo uma informação falsa que pode gerar uma responsabilidade penal mais severa.” Não há, até o momento, indicação de que as seis munições tenham sido acrescentadas e que o modelo de celular tenha sido alterado intencionalmente à imagem com o objetivo de agravar uma acusação. Por nota, a Sesp reconheceu os erros e informou que determinou uma apuração interna para identificar se mais imagens foram modificadas. A secretaria destacou ainda que "já orientou as áreas responsáveis para que recursos de inteligência artificial generativa não sejam utilizados em fotografias destinadas à divulgação de materiais apreendidos, de forma a garantir a fidelidade dos registros apresentados à sociedade" (veja a nota na íntegra ao final da reportagem). Para o cientista político Alexandre Rocha, as divergências entre os registros originais e as imagens modificadas impactam na confiabilidade das instituições. “Embora tenham as imagens reais, gera uma falta de credibilidade. Não é que não seja permitido usar a IA para apresentar melhor os resultados, mas é preciso ter o mínimo de razoabilidade e de credibilidade para a transparência e prestação de contas para a sociedade”. Imagens divulgadas pela Sesp apresentam alterações feitas com IA Secretaria de Segurança se manifesta O g1 questionou se a Secretaria de Estado da Segurança Pública e Defesa Social (Sesp), a Polícia Militar e a Polícia Civil utilizam ou já utilizaram ferramentas de IA para editar, tratar, aprimorar ou alterar fotografias de materiais apreendidos antes do envio à imprensa. Além disso, perguntou se existe algum protocolo, norma ou orientação interna que estabeleça quais alterações podem ser feitas antes da alteração e se as imagens divulgadas com distorções também integram inquéritos, boletins de ocorrência, procedimentos investigativos ou outros documentos oficiais. LEIA TAMBÉM: Justiça solta homem que matou amiga para 'expulsar demônios' na Serra Paciente é presa após agredir e chamar técnica de enfermagem de "neguinha" no PA em Vila Velha 'Bunda de Urso', 'Brasil' e 'Pezão': chefes de facção 'Tropa do Urso' no ES escondidos no RJ somam 30 mandados de prisão O g1 também questionou se as corporações mantém arquivadas as fotografias originais e se os órgãos pretendem realizar algum tipo de apuração interna para verificar como esses arquivos foram produzidos e divulgados. Por nota, a Sesp confirmou o uso das ferramentas nas imagens citadas e disse reconhecer que o encaminhamento foi "inadequado". A pasta declarou, ainda, que orientou as áreas responsáveis e que atua na identificação de possíveis novos casos. Veja a nota na íntegra: "A Secretaria de Estado da Segurança Pública e Defesa Social (Sesp) informa que identificou o uso de recursos de inteligência artificial na edição de algumas imagens de materiais apreendidos encaminhadas à imprensa. As imagens citadas, especificamente, foram enviadas exclusivamente para fins de divulgação e não integram os registros oficiais das ocorrências ou investigações. A Sesp reconhece que o encaminhamento foi inadequado e informa que já orientou as áreas responsáveis para que recursos de inteligência artificial generativa não sejam utilizados em fotografias destinadas à divulgação de materiais apreendidos, de forma a garantir a fidelidade dos registros apresentados à sociedade. Cabe destacar que a tecnologia de Inteligência Artificial é algo recente, com muitas potencialidades, mas seu uso deve obedecer o que preconiza a lei e as boas práticas, limitando-se à preservação da intimidade, da vida privada e de dados sigilosos. A Secretaria também está identificando se há outros casos e permanece à disposição para esclarecer as situações específicas apontadas. Cabe destacar que as imagens originais das apreensões estão preservadas e à disposição para envio, sendo que não houve alteração do conteúdo das apreensões, mas tão somente modificações estéticas das imagens". Vídeos: tudo sobre o Espírito Santo Veja o plantão de últimas notícias do g1 Espírito Santo