Como ChatGPT identificou plano de pai para matar o filho e levou alerta para autoridades
AI Summary
A father in Espírito Santo was arrested after revealing to ChatGPT his plan to kill his 8-year-old son. OpenAI alerted the FBI, which then informed Brazilian authorities. The AI system detected imminent risk due to the detailed threat, leading to preventive action before the planned crime date.
Pai é preso no Espírito Santo após revelar intenção de matar filho ao ChatGPT O pai preso no Espírito Santo por planejar a morte do filho de 8 anos foi denunciado após conversar sobre o caso com o ChatGPT. A OpenAI, criadora do assistente de inteligência artificial, informou o ocorrido ao FBI, que repassou as informações às autoridades brasileiras. O homem foi preso em 19 de junho, um dia antes da data que havia escolhido para cometer o crime. Antes, escreveu no ChatGPT que estaria com uma arma, uma corda e veneno e que realizaria atentados em espaços públicos. 🗒️ Tem alguma sugestão de reportagem? Mande para o g1 Procurada pelo g1, a OpenAI disse que seus sistemas são feitos para manter as pessoas seguras e que o caso mostra a importância dessas medidas. "Quando identificamos conversas que indicam um risco iminente e crível de dano a outras pessoas, podemos notificar as autoridades competentes", disse a empresa. Pai que planejava matar o filho no Espírito Santo disse ao ChatGPT que ofereceu R$ 50 mil a pistoleiro Reprodução/PCES Nas mensagens, o homem escreveu que tentou contratar um pistoleiro por R$ 50 mil para matar o filho, mas que a proposta foi recusada após informar que a vítima era uma criança. "Queria saber de onde vem essa vontade de matar as pessoas. Eu gosto de ver outra pessoa sofrer", disse, em uma das mensagens. Assistentes como o ChatGPT monitoram tudo o que é dito em conversas, ainda que a maior parte da revisão seja feita por sistemas automatizados, disse Álvaro Machado Dias, professor da Universidade Federal de São Paulo (Unifesp). "No caso do pai do Espírito Santo, a fronteira foi cruzada porque havia vítima identificada, método, meios e data próxima. Ou seja, o alerta disparado foi de máxima severidade", afirmou. Veja mensagens de pai ao ChatGPT enquanto planejava matar o filho de 8 anos Como o ChatGPT detecta casos suspeitos A OpenAI diz que começa a análise por meio de sistemas automatizados, que incluem modelos de IA capazes de categorizar conteúdos e fazer análises mais complexas sobre o contexto da conversa. A etapa inclui ainda bancos de dados que reúnem arquivos já sinalizados, como acontece nos casos de exploração sexual infantil, e listas de termos proibidos na conversa. Caso a conversa seja sinalizada por esses mecanismos, ela é enviada para moderadores humanos. Eles analisam a atividade para indicar se houve violação de políticas e se o usuário realmente pode cometer um ato de violência. Os moderadores podem classificar a atividade como um caso de baixo risco ou desativar a conta e entrar em contato com pessoas e organizações mais capazes de resolver a situação, como aconteceu no Espírito Santo. O ChatGPT-4o foi anunciado e lançado pela OpenAI em 13 de maio de 2024 NurPhoto via Getty Images A empresa chegou a ser processada em 2025 sob a acusação de contribuir para suicídio de um jovem de 16 anos nos Estados Unidos, em vez de adotar salvaguardas como direcioná-lo a linhas de apoio para situações de crise. Em comunicado de abril de 2026, a companhia disse trabalhar para o ChatGPT rejeitar pedidos para facilitar casos de violência, ao mesmo tempo em que busca fazer o serviço diferenciar casos problemáticos de perguntas neutras por razões históricas ou educacionais, por exemplo. "Alguns riscos de segurança só ficam evidentes com o tempo: uma única mensagem pode parecer inofensiva, mas o padrão mais amplo em uma conversa longa – ou em várias conversas – pode sugerir algo mais preocupante", disse a OpenAI. Comunicação com autoridades Denúncias a autoridades são comuns em casos identificados em redes sociais, mas não acontecem com frequência quando surgem em assistentes como o ChatGPT. Este foi apenas o terceiro caso do tipo no Brasil, disse o delegado Breno Andrade à TV Gazeta, afiliada da Globo no Espírito Santo. A tendência é que o número aumente à medida que mais pessoas usam esses sistemas como blocos de notas ou como parceiros para relatar o que estão fazendo, disse Álvaro Machado Dias, da Unifesp. Mas a notificação para o FBI, e não para uma autoridade brasileira, é inadequada, disse o especialista. Segundo ele, o canal correto seria a Polícia Federal ou o Ministério da Justiça, ainda que seja possível entender a lógica da OpenAI, com sede nos Estados Unidos e contato com autoridades americanas. "O crime seria no Brasil, a vítima estava no Brasil, o suspeito estava no Brasil, e a prisão dependia do Estado brasileiro. Quem presta serviço aqui não pode tratar o Brasil como mercado consumidor e os Estados Unidos como foro natural de todo conflito", afirmou. Veja mensagens enviadas por pai ao ChatGPT enquanto planejava matar o filho de 8 anos no Espírito Santo Reprodução/PCES Ao mesmo tempo, autoridades brasileiras precisam oferecer um canal direto para receber esse tipo de alerta, o que permite agilizar a investigação, destacou. "A rapidez é decisiva porque a IA comprime a distância entre intenção, plano e execução". Para o professor, não há dúvidas de que comuni