Entenda os pontos-chave do código de boas práticas assinado pelas gigantes da inteligência artificial

AI Summary

Gigantes de IA assinaram na Casa Branca um código voluntário de boas práticas para reduzir riscos de segurança cibernética, biossegurança e comportamentos inesperados dos modelos. O acordo prevê controles internos, auditorias externas e revisão por um comitê independente, em meio a pedidos por regulamentação obrigatória.

As gigantes da tecnologia dos Estados Unidos assinaram, nesta segunda-feira (30), um código de boas práticas na Casa Branca, com o objetivo de gerenciar melhor os riscos associados à inteligência artificial, em resposta ao crescente número de incidentes de segurança relacionados a essa tecnologia. Seus principais elementos são: - Acordo voluntário Relutante em pressionar por restrições ao setor da IA tanto em nível nacional quanto internacional, o presidente americano, Donald Trump, apresentou uma carta de princípios muito breve, de apenas uma página, cuja adesão é "moralmente vinculativa". "No entanto, com o tempo, pode ser adequado codificar essas medidas na forma de leis ou regulamentos", afirma o documento, assinado por figuras proeminentes do setor de IA, de Elon Musk (X) a Dario Amodei (Anthropic), e incluindo Sundar Pichai (Google) e Jensen Huang (Nvidia). Isso ocorre em um momento de crescentes apelos por regulamentações vinculativas, vindos de empresas como Anthropic (Claude) e OpenAI (ChatGPT), assim como de responsáveis políticos, particularmente do Partido Democrata nos Estados Unidos, e governos ao redor do mundo. - Riscos Os fornecedores de modelos de IA se comprometeram a estabelecer "quatro níveis" de supervisão. O primeiro nível envolve a implementação de controles internos robustos para garantir que essas ferramentas sigam as instruções dos desenvolvedores, principalmente em relação à segurança cibernética e à biossegurança. O objetivo é prevenir a introdução, disseminação e liberação de patógenos ou "riscos químicos". As empresas deverão criar equipes especializadas responsáveis por esses controles e por verificar se os modelos não lançam ataques cibernéticos ou obtêm acesso não autorizado a sistemas técnicos. OpenAI, Anthropic e Google relataram recentemente diversos incidentes envolvendo comportamentos inesperados de seus sistemas de IA. Por exemplo, os agentes de IA da OpenAI, programas capazes de ações autônomas, acessaram recentemente o site de um sistema de saúde australiano e plataformas do governo dos EUA por iniciativa própria. - Auditoria O código de boas práticas também prevê a participação de avaliadores externos para realizar auditorias independentes com o objetivo de determinar se as medidas implementadas pelas empresas são eficazes. Anthropic e OpenAI já colaboram com esse tipo de avaliador externo e ambas anunciaram, nas últimas semanas, uma ampliação do acesso para que empresas de auditoria examinem seus modelos, principalmente durante a fase de projeto e não apenas antes da implementação. A Anthropic afirmou ainda que não exercerá "nenhum controle editorial" sobre a publicação dos resultados dessas avaliações independentes, mesmo que sejam desfavoráveis à empresa. - Normas definidas A carta também prevê a criação de um comitê independente composto por representantes das diversas empresas nos mais altos níveis de gestão. Este órgão será responsável por revisar avaliações internas e externas de modelos de IA e garantir a resolução de quaisquer problemas potenciais. As empresas também se comprometeram a se reunir "regularmente para estabelecer normas e boas práticas". A iniciativa parece estar alinhada com o projeto que OpenAI, Anthropic e Google DeepMind começaram a desenvolver anteriormente. Em meados de setembro, essas três empresas indicaram que estavam trabalhando na criação de um órgão supervisor para riscos relacionados à IA, inspirado na Autoridade Reguladora da Indústria Financeira dos EUA (FINRA), um órgão autorregulador do setor financeiro. No entanto, esse modelo já atraiu fortes críticas de empresas concorrentes do setor, como a francesa Mistral e a canadense Cohere, que acusam as gigantes da tecnologia americanas de quererem definir suas próprias regras e, assim, proteger sua vantagem competitiva. dax/mch/cac/ahg/pb/aa/fp