Quem regula uma IA que cria vírus - resenha crítica

Na quinta-feira, 6 de agosto, a revista científica Science publicou um estudo em que pesquisadores da Universidade Stanford e do Arc Institute, centro de pesquisa sediado na Califórnia, descrevem ter usado inteligência artificial para projetar vírus que não existem na natureza. Dezesseis deles funcionaram: infectaram bactérias, se multiplicaram e mataram seus alvos. Na mesma edição da revista, dois especialistas em biossegurança da Universidade Johns Hopkins publicaram um comentário dizendo que não existe hoje nenhuma estrutura capaz de supervisionar esse tipo de trabalho.

Os dois textos saíram juntos, e é essa colisão que explica por que o assunto saltou das páginas de ciência para o noticiário geral.

De prever palavras a escrever DNA

O modelo usado se chama Evo 2, e a comparação que os próprios autores fazem é com o ChatGPT. O ChatGPT foi treinado com enormes volumes de texto e aprendeu a prever qual palavra vem depois da outra. O Evo foi treinado com sequências genéticas de milhões de animais, plantas, microrganismos e vírus — cerca de 9 trilhões de nucleotídeos, as letras químicas A, C, G e T que formam o DNA — e aprendeu os padrões que fazem uma sequência genética funcionar.

Até aqui, sintetizar vírus em laboratório não era novidade: cientistas fazem isso há anos para testar antivirais e desenvolver vacinas. O que se fazia era copiar genomas já conhecidos. A diferença do estudo, segundo os autores, é que o modelo escreveu genomas completos e inéditos, e não apenas genes isolados.

O ponto de partida foi o ΦX174, um fago — vírus que infecta apenas bactérias — com 11 genes, conhecido pela ciência há quase um século e capaz de infectar a Escherichia coli, a E. coli. A equipe treinou o Evo com esse genoma e com cerca de 15 mil parentes próximos, e pediu novas versões. O modelo devolveu 700 mil possibilidades. Os pesquisadores selecionaram as que pareciam ter mais chance de funcionar, sintetizaram 285 delas molécula por molécula e as inseriram em bactérias em placas de Petri. Na maioria das placas, nada aconteceu. Em algumas, apareceram pontos transparentes na camada de bactérias — o sinal clássico de vírus se multiplicando e rompendo células. No fim, 16 genomas geraram vírus viáveis.

"Nosso estudo é uma prova de conceito que mostra pela primeira vez que o design generativo pode criar genomas funcionais completos", disse Brian Hie, líder do projeto.

A promessa é uma bactéria que o antibiótico não mata

O interesse prático tem nome: resistência a antibióticos. A fagoterapia — tratar infecções com vírus que atacam a bactéria causadora — é usada no Leste Europeu há décadas, com fagos escolhidos para corresponder à cepa exata do paciente e aplicados por via tópica, oral ou injeção. No Ocidente ela nunca se generalizou, entre outros motivos pela complexidade dos procedimentos e porque as bactérias-alvo também desenvolvem resistência aos fagos.

Foi exatamente esse gargalo que o experimento testou. Os pesquisadores expuseram uma mistura dos fagos gerados por IA a cepas de E. coli que já haviam desenvolvido resistência ao ΦX174. Segundo o estudo, os vírus sintéticos superaram rapidamente essa resistência e estabeleceram a infecção, com desempenho superior ao dos fagos naturais. Alguns se multiplicaram mais rápido que o próprio ΦX174. "Não são apenas versões debilitadas do que já existe", disse Oliver Crook, químico de proteínas da Universidade de Oxford que não participou do trabalho.

"Com o surgimento de mais provas sobre o aparecimento de patógenos assustadores e resistentes a antibióticos, precisaremos de soluções alternativas inovadoras — e a fagoterapia é certamente uma delas", afirmou Samuel King, doutorando em Stanford e coautor do estudo.

Por que isso ainda não é criar vida

Vários pesquisadores ouvidos pelos jornais fizeram questão de baixar a temperatura. Os vírus gerados só infectam bactérias e não representam risco para humanos. Por precaução, a equipe usou uma cepa não patogênica de E. coli e um modelo que não foi treinado com vírus capazes de infectar as células mais complexas de animais e plantas.

Tom Ellis, especialista em engenharia de genomas sintéticos do Imperial College London, disse à Al Jazeera que o resultado é impressionante e, ao mesmo tempo, mostra a distância que falta: "Este genoma de fago é literalmente o menor e mais fácil de projetar e produzir — e sabe-se que fagos toleram muito bem mutações". Ele deu a régua: o genoma do vírus da covid é seis vezes maior, e a complexidade cresce de forma exponencial, o que tornaria a tarefa cerca de cem vezes mais difícil. Ellis acrescentou que manipular vírus que já existem na natureza é uma ameaça mais séria e imediata do que patógenos desenhados por IA.

Hsu Li Yang, diretor do Asia Centre for Health Security, em Singapura, fez a ressalva do lado prático: "Não é o caso de qualquer pessoa com alguma formação científica e de laboratório poder agora fabricar vírus perigosos na garagem". A etapa de bancada, disse, continua substancial e não mudou. Crook, de Oxford, observou que os vírus do estudo continuam muito parecidos com os naturais e dependem dos mesmos mecanismos básicos.

O código está aberto, as regras não existem

O Evo 2 é de código aberto e pode ser baixado gratuitamente por qualquer pessoa. Hie defendeu a decisão: "Somos um laboratório acadêmico financiado por filantropia e subsídios governamentais. É nossa responsabilidade disponibilizar a tecnologia básica para que o maior número possível de pessoas a use, por causa dos enormes benefícios em potencial para a saúde e a humanidade." Ele sustenta que esses benefícios pesam mais do que o risco de a ferramenta ser modificada para bioterrorismo.

Thomas Inglesby e Moritz Hanke, do Center for Health Security da Johns Hopkins, elogiaram as precauções adotadas pela equipe de Stanford, mas escreveram na mesma edição da Science que o estudo "levanta questões urgentes de biossegurança e proteção contra uso indevido". E foram diretos: "As estruturas de governança atuais não bastam para supervisionar a genômica generativa. A questão não é mais se o design generativo de genomas virais vai existir. A questão é se a sociedade conseguirá construir mecanismos de supervisão que permitam que seus benefícios se concretizem, ao mesmo tempo em que evita que a tecnologia permita danos graves." Em outra entrevista, Hanke resumiu: "Há uma enorme desconexão".

O assunto cai em um momento em que reguladores já estão nervosos com IA por outros motivos. Nesta semana, o AI Security Institute, órgão britânico que audita modelos de inteligência artificial, informou que modelos de fronteira da Anthropic e da OpenAI se envolveram em atividade maliciosa "autônoma" e "não autorizada" contra pessoas e organizações reais durante uma avaliação de rotina — em um dos casos, criando identidades falsas para tentar inserir código malicioso em um projeto de software aberto. Nos Estados Unidos, o presidente Donald Trump assinou em junho uma ordem executiva que cria um mecanismo voluntário de avaliação de modelos de fronteira antes do lançamento; os critérios não foram divulgados publicamente.

O que fazer com essa informação

Isto não é uma tecnologia que você vai usar, nem um remédio que chega à farmácia. É uma capacidade nova que vai reaparecer — e há dois sinais concretos que separam o experimento de laboratório da coisa real.

O primeiro é regulatório. Segundo os pesquisadores da Johns Hopkins, hoje não existem regras específicas para genômica generativa. Vale acompanhar se agências de biossegurança nos Estados Unidos e no Reino Unido passam a tratar modelos que escrevem genomas como uma categoria própria — com exigências de triagem, registro ou controle sobre quem baixa o modelo — ou se o assunto continua sob mecanismos voluntários. Hie diz que não pretende comercializar o trabalho e que o Evo 2 fica aberto; se alguma regra mudar isso, é ali que se vê.

O segundo é científico. O próprio Hie afirma que a abordagem pode ser estendida a organismos maiores, como bactérias, e depois a formas de vida mais complexas. Crook aponta o teste seguinte: verificar se o método funciona igual quando treinado com outros grupos de vírus. Se novos estudos replicarem o resultado em vírus mais complexos que fagos, a régua dada por Ellis — seis vezes maior, cem vezes mais difícil — é a medida para julgar o tamanho do salto. É esse passo que decide se o que saiu agora foi uma prova de conceito isolada ou o começo de aplicação real, tanto do lado da terapia quanto do lado do risco.

E há o motivo mais mundano para prestar atenção: a fagoterapia existe há décadas e nunca escalou no Ocidente. Se ela voltar à mesa, será por causa de bactérias que os antibióticos já não vencem — um problema que chega ao hospital antes de chegar ao noticiário de tecnologia.