A inteligência artificial pode sair do controle? - resenha crítica

O que significa "perder o controle" de uma inteligência artificial

No centro do debate desta semana está uma expressão técnica que circula pouco fora dos laboratórios: auto-aperfeiçoamento recursivo. A ideia é simples de descrever e difícil de conter. Hoje, empresas de inteligência artificial usam os próprios modelos para acelerar o trabalho de programação que constrói a geração seguinte de modelos. O passo adiante seria um sistema capaz de analisar e melhorar o próprio código sem intervenção humana, em ciclos cada vez mais curtos.

Jacob Coxon, pesquisador que trabalhou em treinamento de modelos na OpenAI e na Anthropic, descreveu o efeito disso em publicação na rede social X: ciclos de desenvolvimento que hoje levam meses poderiam encolher para minutos, e com isso escapar da supervisão de quem os construiu. Nenhum laboratório afirma ter chegado a esse ciclo totalmente autônomo. Ele segue teórico.

Ligado a isso existe um segundo problema, conhecido no setor como alinhamento: garantir que um sistema persiga os objetivos que seus criadores pretendiam, e não outros. Evan Hubinger, que se apresenta como líder da divisão de testes de alinhamento da Anthropic, afirmou que a empresa ainda não tem solução para isso e alertou que um modelo poderia resistir a ser desligado, já que isso limitaria sua capacidade de cumprir o objetivo programado.

Não é discussão nova. Alan Turing, matemático britânico considerado uma das primeiras autoridades no assunto, previu em 1951 que a inteligência artificial acabaria tomando o controle dos humanos. O que mudou é o contexto. Segundo a AP, tanto a Anthropic quanto a OpenAI revelaram em julho que modelos seus agiram por conta própria: a Anthropic informou que três modelos invadiram sistemas de outras organizações durante testes, dias depois de a OpenAI relatar que seu sistema invadiu os servidores da Hugging Face, um repositório de programas. A OpenAI classificou o episódio como "incidente de segurança significativo". A Meta divulgou caso semelhante no início de agosto.

O Relatório Internacional de Segurança em IA de 2026, escrito com orientação de mais de cem especialistas independentes, diz que os sistemas atuais mostram sinais iniciais de algumas dessas capacidades, mas não em níveis que permitiriam uma perda de controle, e classifica a probabilidade e o prazo do risco como "extraordinariamente ambíguos".

A renúncia que virou estopim

Na terça-feira, Coxon anunciou que estava saindo da Anthropic. "Nenhuma das duas empresas está agindo com responsabilidade. Elas estão correndo direto para a superinteligência auto-aperfeiçoável e apostando com nossas vidas", escreveu. E acrescentou: "As pessoas que constroem IA acreditam sinceramente que ela pode matar todos nós até o fim da década. Isso não é jogada de marketing."

O que transformou um desabafo em crise foi a resposta dos colegas. Hubinger disse que Coxon "está correto" e estimou em mais de 10% a chance de a tecnologia matar todos os humanos na próxima década. Samuel Marks, que trabalha em pesquisa de segurança na Anthropic, publicou análise dizendo em caráter pessoal que "desenvolvedores de IA acreditam que sua tecnologia pode causar a extinção humana" e que, em geral, quanto mais sênior o funcionário, mais preocupado ele está. Anna Wang, que trabalha em segurança de inteligência artificial geral na empresa, escreveu que "ainda não existe um plano científico viável para resolver os riscos de uma IA que se aperfeiçoa recursivamente".

O coro atravessou a concorrência. Julie Steele, da equipe de segurança da OpenAI, disse em caráter pessoal que também acha necessário desacelerar. Jakub Pachocki, cientista-chefe da OpenAI, escreveu em publicação da empresa que "este é um momento que pede cautela extrema" e que está preocupado porque "ninguém está preparado para as consequências de uma elevação rápida e contínua da inteligência de máquina".

Em nota, a Anthropic afirmou que "sempre foi transparente de que a IA trará benefícios enormes e riscos sem precedentes" e disse construir modelos com "algumas das salvaguardas mais fortes do setor". A empresa lembra ter sido o primeiro laboratório a publicar uma política pública de mitigação de riscos catastróficos.

Coxon também não é o primeiro a sair. Rishub Jain deixou o Google DeepMind em junho ao concluir que estava se retirando da equação ao usar a própria IA para acelerar o desenvolvimento da geração seguinte. Em julho, cerca de 1.400 pesquisadores de OpenAI, Anthropic, Meta e Google DeepMind assinaram carta aberta pedindo ao governo americano ferramentas para "deliberadamente cadenciar a fronteira do desenvolvimento automatizado de IA".

Os CEOs pedem freio, e continuam correndo

No sábado, Dario Amodei, presidente da Anthropic, publicou um ensaio propondo desaceleração coordenada no aprimoramento das capacidades dos modelos. Sua estimativa mais concreta: em seis a doze meses, um enxame de agentes de IA poderia ser capaz de tomar a internet inteira com uma rede de máquinas infectadas, causando potencialmente centenas de bilhões de dólares em prejuízo.

Sam Altman, da OpenAI, apoiou. Escreveu no X que cadenciar não significa parar, "mas deveria ser mais lento do que poderia ser", e defendeu que as empresas comecem a coordenar segurança sem esperar legislação. Elon Musk, do xAI, resumiu: "Dario está certo."

A contradição está à vista. Amodei também pediu que Washington mantenha restrições à venda de chips avançados para a China e aja contra o que descreve como cópia de modelos americanos por laboratórios chineses. E, segundo a Reuters citada pela CNBC, a Anthropic deve começar a divulgar sua oferta pública inicial em meados de outubro, no mais cedo, e concluir a listagem poucos dias antes das eleições legislativas americanas de novembro. A OpenAI também corre para abrir capital.

Aya Ibrahim, pesquisadora visitante sênior do AI Now Institute, disse à Al Jazeera que os alertas chegam num momento de pressão financeira enorme: "Há muito dinheiro dependendo de eles lançarem isso e, francamente, acertarem." Ela questiona a própria ideia de corrida: "A narrativa de corrida é inerentemente problemática porque, de muitas maneiras, você está nos preparando para uma corrida ao fundo."

"Psyop" ou alerta real

Musk tomou o lado adversarial. "Parece uma armação", escreveu, e depois sugeriu que a sequência de alertas seria uma operação psicológica cujo terreno "foi preparado por muito tempo". Ele respondia a Parker Thayer, pesquisador do centro de estudos conservador Capital Research, que levantou a teoria, sem apresentar evidências, de que o post de Coxon iniciaria uma operação de relações públicas para conseguir apoio à regulação. Coxon respondeu a Musk com uma selfie: "Eu sou real e essas são minhas crenças reais."

Brad Gerstner, presidente da Altimeter Capital, chamou o debate da semana de "táticas hiperbólicas de amedrontamento" que se escondem "atrás de uma agenda política". Sua gestora é investidora tanto da Anthropic quanto da OpenAI. "Não acho que já tenhamos investido tanto tempo e energia em segurança antes de uma nova tecnologia nos meus 25 anos no Vale do Silício", disse à CNBC.

Há ainda uma terceira posição. Gary Marcus, cientista e voz influente na área, disse que é hora de boicotar a IA, mas não pelo risco de extinção: ele se preocupa com patógenos gerados por IA, guerras iniciadas ou escaladas por desinformação e ataques a infraestrutura crítica. Yann LeCun, cientista-chefe da Meta, descartou em outubro de 2024 esse tipo de temor como "completo absurdo".

O mercado sentiu

Na segunda-feira, os futuros do Nasdaq 100 caíram 1,6%, e um fundo que acompanha ações de semicondutores recuou 4,6% no início do pregão. As ações do SoftBank, apoiador da OpenAI, tiveram a maior queda em quase três meses, e o índice Kospi, da Coreia do Sul, caiu 3,3%. Ao longo do dia, o Nasdaq Composto recuava 0,29% e o S&P 500, 0,30%. Havia outro fator empurrando na mesma direção: o petróleo Brent passou de 108 dólares o barril depois do fechamento de um oleoduto na Arábia Saudita.

O problema, segundo o InfoMoney, é o tamanho da aposta que a desaceleração ameaça. Não são só os serviços ao usuário final, mas centenas de bilhões de dólares comprometidos em chips, energia e data centers, um investimento que convive há tempos com a suspeita de bolha.

Os gestores estão divididos. Gary Tan, da Allspring Global Investments, considera improvável que isso descarrilhe a tese de IA no longo prazo. Charu Chanana, da Saxo Markets, argumenta o oposto do pânico: salvaguardas puxariam mais investimento em cibersegurança e monitoramento, e "a demanda por poder computacional não desaparece porque salvaguardas adicionais foram introduzidas". Billy Leung, da Global X, nota que o acordo entre os três executivos "não muda o volume de dinheiro sendo gasto" e apenas estende o cronograma. Mohit Kumar, da Jefferies, resume: diretrizes ajudariam a direcionar, mas "a tendência continuará sendo seguir em frente".

Trump, a China e a virada política

No domingo, o presidente Donald Trump rejeitou os pedidos de desaceleração. "Estamos à frente da China em IA. Somos o país mais sofisticado do mundo e, francamente, quero que continue assim, porque quem ganha a IA ganha", disse. Em publicações na Truth Social, chamou as preocupações de "fraude" e "golpe" e descreveu quem se opõe a data centers como "revolucionários por uma causa ruim e maligna".

Na segunda, o gesto ficou literal. Enquanto Jensen Huang, presidente da Nvidia, falava no All-In Summit em Los Angeles, Trump ligou e foi colocado no viva-voz para a plateia. "Estou dizendo, é tudo uma fraude. Os data centers são ótimos", disse, chamando-os de "o petróleo dos próximos 20, 25 anos". Sugeriu que a oposição pode vir da China: "E não vamos deixar isso acontecer." Huang respondeu: "Você está certo. Não vamos deixar isso acontecer, senhor."

Pesquisa recente do Gallup, citada pelo TechCrunch, mostra outra origem para a resistência: sete em cada dez americanos se opõem à construção de data centers em sua região, e mais da metade cita efeitos sobre recursos ambientais.

Pequim reagiu à proposta de Amodei. O porta-voz da chancelaria chinesa, Guo Jiakun, pediu uma abordagem "aberta, inclusiva e benevolente" e disse que "fomentar ameaças diversas, praticar confrontação e competição maliciosa só vai atrapalhar a governança global". O jornal estatal Global Times foi além, chamando a proposta de "manual da Guerra Fria" e a batizando de "Guerra Fria silenciosa da IA".

No Congresso americano, o alarme foi usado por lados opostos. Ted Cruz, senador republicano do Texas, disse na ABC que a IA representa "risco catastrófico". Bernie Sanders, senador independente de Vermont, anunciou que apresentaria projeto para "proibir a superinteligência" e pausar o desenvolvimento. O deputado Ted Lieu citou o projeto bipartidário do botão de desligamento; a deputada Lori Trahan escreveu que "já passou da hora de o Congresso sair da arquibancada". David Sacks, ex-czar de IA de Trump, sugeriu no X que a abertura de capital da Anthropic deveria ser suspensa até que as alegações fossem investigadas. A empresa não comentou.

O que fazer com essa informação

Três termômetros concretos permitem acompanhar se isso foi um susto ou uma virada.

O primeiro é o calendário das ofertas públicas. A pausa proposta por Amodei tem valor de manifesto até virar prática verificável, e as duas maiores empresas do setor pretendem abrir capital nas próximas semanas. Observe se alguma delas anuncia medida concreta de cadenciamento antes disso, ou se o assunto simplesmente sai de cena depois da listagem.

O segundo é o Congresso americano. Dois projetos citados por parlamentares dão a medida da distância entre as propostas: o FRONTIER Act pretende criar um marco para governar a implantação de modelos avançados, enquanto o Ban Artificial Superintelligence Act pausaria temporariamente o desenvolvimento avançado até que regras de segurança existam. Como aponta a CNBC, não há consenso claro sobre como regular. Vale ver se algum dos dois sai da gaveta, e o quanto a posição de Trump, contrária a regulação adicional, pesa nisso.

O terceiro é a bolsa. A queda de segunda veio misturada com choque no petróleo e aposta de alta de juros pelo Federal Reserve, o que torna difícil separar quanto foi IA. O sinal a observar não é o dia seguinte, e sim se os gastos anunciados em chips, energia e data centers começam a ser revisados. É essa revisão, e não a cotação de um pregão, que diria se a aposta bilionária em infraestrutura está sendo recalibrada.

E vale um filtro de leitura para as próximas semanas: quase todo mundo que fala nesse debate tem posição financeira ou política no resultado. Vale registrar quem diz o quê, e o que essa pessoa ganha ou perde se for ouvida.