OpenAI e Anthropic pedem leis para evitar uso de IA na criação de armas biológicas
Os CEOs de grandes laboratórios de inteligência artificial, incluindo OpenAI e Anthropic, assinaram uma carta pública direcionada ao Congresso dos Estados Unidos solicitando a implementação de leis que dificultem a criação de armas biológicas desenvolvidas com auxílio de IA. A iniciativa visa melhorar o controle sobre a comercialização e o uso de sequências sintéticas de DNA e RNA, que podem ser utilizadas para fins maliciosos.
Contexto da ameaça biotecnológica potencializada pela IA
Desde a síntese do DNA realizada pelo cientista Arthur Kornberg na década de 1950, o processo evoluiu para uma automação que permite a centenas de empresas ao redor do mundo produzirem e venderem sequências genéticas personalizadas. Embora muitos fornecedores restrinjam suas vendas a pesquisadores qualificados, empresas de biotecnologia e instituições acadêmicas, nem todos realizam uma triagem rigorosa dos clientes ou das sequências solicitadas.
Em 2017, pesquisadores canadenses demonstraram a capacidade de reconstruir o vírus extinto da varíola equina (horsepox) a partir de DNA encomendado por correspondência, levantando preocupações sobre a possibilidade de criação de vírus perigosos, como o da varíola humana, com metodologias similares. Desde então, o custo da síntese genética caiu significativamente, tornando o processo mais acessível.
O papel da inteligência artificial no design de agentes patogênicos
Com o avanço dos modelos de linguagem e outras ferramentas de IA, tornou-se viável projetar toxinas e patógenos potencialmente perigosos. Embora ainda seja necessário algum conhecimento em biologia para transformar essas informações em vírus funcionais, a IA reduz consideravelmente as barreiras técnicas para usuários mal-intencionados.
David Relman, microbiologista e especialista em biossegurança da Universidade de Stanford, explica que essas ferramentas podem indicar rapidamente onde comprar sequências que não serão filtradas por sistemas de triagem. Além disso, a IA pode sugerir modificações nas ordens para dificultar a detecção por parte das empresas que realizam a triagem.
Propostas para controle e prevenção
A carta, organizada pelo Institute for Progress e pela Foundation for American Innovation, defende que empresas que vendem DNA sintético passem a realizar uma triagem rigorosa de clientes e pedidos, impedindo o acesso a agentes biológicos perigosos. Entre os signatários estão líderes da OpenAI, Anthropic, Google DeepMind e Microsoft AI, além de executivos de empresas de síntese gênica como Twist Bioscience e Ansa Biotechnologies.
Essas empresas já utilizam softwares para identificar "sequências de preocupação" que possam indicar toxicidade ou potencial para causar doenças. No entanto, estudos recentes mostram que ferramentas de IA podem gerar sequências que passam despercebidas por esses sistemas.
Além da triagem obrigatória, os especialistas sugerem que os próprios laboratórios de IA implementem controles para impedir que seus modelos auxiliem na criação de agentes biológicos perigosos. James Diggans, vice-presidente de política e biossegurança da Twist Bioscience, destaca a responsabilidade de garantir o uso seguro da tecnologia.
Legislação e desafios atuais
Diretrizes federais, estabelecidas durante a administração Biden, já exigem que pesquisadores e empresas que recebem fundos públicos comprem sequências genéticas apenas de fornecedores que realizam triagem. Um projeto de lei bipartidário no Senado visa estender essa exigência a todos os fornecedores que atuam nos EUA.
Porém, a eficácia desses mecanismos ainda é limitada, já que a triagem pode falhar diante de pedidos sofisticados ou modificados por IA. Assim, os especialistas reforçam a necessidade de múltiplos pontos de controle e da colaboração entre governos, empresas de biotecnologia e laboratórios de IA para garantir a segurança global.