Por que uma desavença entre matemáticos alimenta temores de que a IA prejudica a ciência

AI Summary

A dispute over an OpenAI claim that its AI solved a major Navier–Stokes problem has raised questions about research integrity and whether data stored in its Codex tool could have influenced the result. Mathematician Tristan Buckmaster and colleague Levent Alpöge questioned how the company learned of their parallel work, while OpenAI denied accessing it and said the researchers' recent prompts could not have contributed to its work.

A IA pode fazer as pessoas duvidarem da qualidade e da originalidade das pesquisas científicas? Getty Images via BBC Em uma antiga fábrica de relógios no centro de Londres, uma fileira de freezers brancos mantém armazenadas dezenas de pequenas caixas com tubos de vidro identificados por códigos de barras. Juntos, esses tubos contêm 100 bilhões de genes. Segundo o médico Oliver Vince, um dos fundadores do laboratório, se considerarmos apenas duas dessas caixas, elas poderiam armazenar juntas dez vezes mais informações do que todos os textos disponíveis na internet. A empresa de Vince, a Basecamp Research, pretende coletar a maior quantidade possível de DNA para desenvolver uma inteligência artificial (IA) capaz de compreender a linguagem da biologia. A estratégia é semelhante à adotada por empresas de tecnologia dos Estados Unidos e da China, que reuniram enormes volumes de textos disponíveis na internet para criar os chamados Large Language Models (LLMs, grandes modelos de linguagem como, por exemplo, o ChatGPT ou o Gemini) que servem de base para os atuais sistemas de IA. Vince, assim como muitos profissionais do setor empresarial e da pesquisa acadêmica, diz acreditar que a IA dará um grande impulso à pesquisa científica. Mas seu uso também tem provocado cada vez mais controvérsias. No mês passado, a OpenAI, criadora da ferramenta ChatGPT, anunciou ter resolvido um dos grandes problemas ainda sem solução da matemática, relacionado às famosas equações de Navier-Stokes. Segundo a empresa, seus agentes de IA conseguiram solucionar o problema em 88 horas. A organização responsável por conceder um prêmio a quem encontrar a solução afirmou que a questão "aparentemente foi resolvida", mas ressaltou que a análise do resultado levará tempo. Agora no g1 Mas horas antes do anúncio, o matemático Tristan Buckmaster, da Universidade de Nova York, nos EUA, tornou públicas suas preocupações. Buckmaster formou uma equipe independente com Levent Alpöge, matemático que também trabalha para a Anthropic, empresa concorrente da OpenAI. Os dois pesquisadores buscavam resolver o mesmo problema e armazenavam os rascunhos de seu trabalho no Codex, ferramenta de programação da OpenAI. Buckmaster afirmou que seu colega havia sido informado de que notícias sobre o avanço da pesquisa tinham "chegado" à OpenAI, mas não explicou como isso teria ocorrido. Ele questionou se a pesquisa armazenada no Codex poderia ter sido utilizada no trabalho da própria OpenAI, embora tenha ressaltado que "não estava acusando ninguém de nada". A OpenAI afirmou que ninguém na empresa, seja humano ou IA, teve acesso ao trabalho da outra equipe antes de sua publicação. Inicialmente, a empresa disse que, embora fosse improvável, não poderia "descartar" a possibilidade de que dados anonimizados do uso de seus produtos tivessem contribuído para aprimorar seus modelos. Dias depois, afirmou que os comandos inseridos por Buckmaster no Codex nos dois meses anteriores ao anúncio "não poderiam ter influenciado o sistema de forma alguma". O caso é complexo, e ainda não sabemos exatamente o que aconteceu. Mas ele chama a atenção para uma preocupação crescente com o uso da IA na ciência. Em geral, quando pensamos nesse assunto, imaginamos robôs criando vírus perigosos por meio de engenharia genética ou armas químicas capazes de exterminar a humanidade. No entanto, há um problema mais sutil, que não recebe a mesma atenção da imprensa: a possibilidade de a IA abalar a confiança no processo científico, levantando dúvidas sobre a originalidade e a precisão das pesquisas. Há ainda outra preocupação. Sabe-se que ferramentas de IA como Claude e Gemini, do Google, podem, às vezes, produzir informações falsas, fenômeno conhecido como "alucinação". Elas podem, por exemplo, mencionar um filme que nunca existiu ou atribuir a alguém uma frase que jamais foi dita. Agora, há evidências de que isso ocorre com frequência cada vez maior também na ciência. O temor é que, com o tempo, se torne difícil distinguir descobertas científicas verdadeiras de informações fictícias geradas por IA. Tudo isso pode ameaçar enfraquecer, ou até destruir, o alicerce sobre o qual se sustenta a pesquisa científica: a confiança. Um 'marco histórico' Uma das ameaças recai sobre as revistas científicas, responsáveis por preservar a integridade da ciência, que parecem não estar conseguindo lidar com uma avalanche de informações distorcidas geradas por IA. "A IA generativa basicamente transformou todo o processo científico", afirma Dalmeet Singh Chawla, jornalista especializado em ciência que há uma década cobre casos de má conduta na pesquisa científica. Singh Chawla disse à BBC que as equipes responsáveis por verificar a integridade das publicações científicas, analisando a precisão e a confiabilidade dos estudos submetidos, precisarão "aumentar drasticamente [em número de profissionais e esforço] para ter alguma chance de enfrentar o problema". "No momento, parece que não estão conseguindo", afirma Singh Chaw