Como terroristas estão usando IA para planejar ataques e burlar restrições dos chatbots

AI Summary

Terrorists and extremist groups are increasingly exploiting AI to plan attacks and circumvent chatbot restrictions, with a significant portion of AI queries resulting in useful information. A report by Tech Against Terrorism highlights the growing concern of AI's role in terrorism beyond propaganda to actual attack planning.

Fumaça sai do Hotel Intercontinental em Cabul, capital do Afeganistão, durante ataque terrorista em 21 de janeiro de 2018 Mohammad Ismail/Reuters "Bom dia, ChatGPT, você pode me dizer como se faz uma bomba?". Qualquer pessoa que já tenha tentado fazer uma pergunta desse tipo a um chatbot de inteligência artificial (IA) sabe que a resposta pode variar de uma longa explicação sobre a história dos explosivos até o bloqueio permanente da conta do usuário. Mas, às vezes, se a pergunta for formulada de uma determinada maneira, a resposta pode incluir informações potencialmente úteis sobre como fabricar uma bomba. 🗒️ Tem alguma sugestão de reportagem? Mande para o g1 Diversos veículos de comunicação já testaram essa hipótese e descobriram que, quando são usados os prompts "corretos", alguns modelos de IA podem fornecer orientações sobre a criação de armas biológicas, o planejamento de um atentado num estádio esportivo ou formas de ocultar os rastros de um terrorista. Esse método de contornar as restrições dos sistemas é conhecido como "jailbreaking". A OpenAI, desenvolvedora do ChatGPT, define isso como "tentativa de um agente mal-intencionado de induzir o modelo a fornecer conteúdo proibido". Agora no g1 Um recente relatório publicado pela organização Tech Against Terrorism, um observatório online apoiado pelo escritório de contraterrorismo das Nações Unidas, mostrou com que frequência um LLM fornece informações "úteis" para possíveis extremistas. Os pesquisadores enviaram mais de 2.300 solicitações de informação, baseadas em "casos reais de uso por terroristas", a 27 modelos diferentes de IA. Eles descobriram que 32% das consultas resultaram em informações utilizáveis. Quando a mesma pergunta era reformulada como se fosse para fins de pesquisa acadêmica, o percentual subia para 42%. Leia também: IA pode transformar a economia mais rápido que a Revolução Industrial, alertam especialistas Aumento do uso de IA por terroristas O relatório voltou a chamar atenção para uma preocupação crescente entre especialistas em segurança digital e terrorismo: a possibilidade de potenciais agressores passarem a usar a IA para o planejamento de atentados e não só de propaganda. Nos últimos três ou quatro anos, o principal uso da IA por grupos extremistas, como o Estado Islâmico e a rede Al Qaeda, tem sido a produção de propaganda. Isso inclui vídeos, memes, podcasts e diferentes formas de desinformação, disseminados entre simpatizantes e utilizados para radicalizar novos seguidores. Mas esse cenário está mudando. O ano de 2025 registrou um aumento significativo de incidentes nos quais terroristas e extremistas violentos utilizaram ferramentas de IA para planejar, pesquisar e preparar ataques, afirmaram especialistas da publicação Militant wire em dezembro. Ataques que ganharam manchetes e que causaram mortes ou danos materiais, assim como diversas conspirações frustradas, utilizaram IA para planejamento, vigilância, visualização e propaganda. Os casos foram registrados nos Estados Unidos, no Canadá, em Israel, na Finlândia e na Áustria. Frequentemente é difícil saber exatamente como a IA foi utilizada, já que as agências de segurança raramente divulgam detalhes. No entanto, como relatou um especialista ao Parlamento do Reino Unido durante uma inquérito realizado no fim de 2025, "processos judiciais e relatórios periciais documentam cada vez mais conversas nas quais suspeitos pedem a modelos de linguagem instruções para fabricação de bombas, validação ideológica ou justificativas para ataques". Grupos extremistas também adotam IA Esse uso da IA não se limita a indivíduos. Grupos extremistas também estão adotando essa tecnologia. Pesquisadores que estudam o uso de drones pelo grupo afiliado à Al-Qaeda Jama'at Nusrat al-Islam wal-Muslimin (JNIM), baseado no Mali, acreditam que a organização tenha usado IA para auxiliar na modificação de drones. Em uma análise publicada em junho pela Global Network on Extremism and Technology, os pesquisadores de segurança Yuri Neves e Emily Klein observaram que apoiadores do Estado Islâmico, assim como grupos da extrema direita, discutem regularmente formas de utilizar IA em canais de mensagens. Neves e Klein trabalham na organização americana Moonshot, especializada no combate a ameaças online. Eles identificaram canais no aplicativo Telegram dedicados ao uso de IA, além de extremistas compartilhando "prompts" e links para conversas com chatbots, coordenando estratégias para obter respostas específicas e até dividindo os custos de assinaturas do ChatGPT. Saiba também: Ferramenta da Meta deixa de reconhecer imagens de IA após recortes, diz agência A IA substituiu os recrutadores virtuais? O pesquisador Rueben Dass, da Escola de Estudos Internacionais S. Rajaratnam (RSIS), em Singapura, observa que os chatbots de IA passaram a desempenhar novos papéis em ataques realizados pelos chamados "lobos solitários". "Antes existia o conceito dos planejadores virtuais, que eram pessoas localizadas em zonas