IA vai acabar com a humanidade? O alerta de quem constrói a tecnologia por dentro

A pergunta "IA vai acabar com a humanidade" saltou dos filmes para os telejornais em setembro de 2026, quando um investigador que trabalhou no coração técnico da OpenAI e da Anthropic se demitiu e publicou um aviso público. A frase dele que ficou nas manchetes foi direta: as pessoas que constroem inteligência artificial acreditam mesmo que ela pode acabar connosco, e isto não é uma jogada de marketing. Antes de entrar em pânico ou de revirar os olhos, vale a pena fazer o que quase nenhuma manchete fez: ler com calma o que foi realmente dito, e separar o sinal genuíno do medo bem embalado.

A demissão que ninguém esperava a sete semanas de um IPO de biliões

O investigador chama-se Jacob Coxson (a grafia do apelido varia entre as reportagens). É britânico, tem 27 anos e passou cerca de três anos a trabalhar em pré-treino de modelos, primeiro na OpenAI e depois na Anthropic. Pré-treino é a fase inicial em que o sistema engole quantidades enormes de texto para aprender os padrões básicos da linguagem, antes dos ajustes finos. É a parte que constrói a base bruta de um assistente como o Claude ou o ChatGPT. Por outras palavras, ele viu esse processo de dentro, nas duas maiores empresas do setor.

O momento da saída é o detalhe que muda o peso da história. Segundo a reportagem do Wall Street Journal, Coxson demitiu-se cerca de sete semanas antes de a Anthropic entrar em bolsa, numa operação avaliada entre 1,5 e 2 biliões de dólares. Não é alguém sem nada a perder a fazer barulho. É alguém que se levantou de uma mesa com um dos maiores pagamentos individuais da tecnologia recente em cima, para escrever um fio de aviso na internet.

“

As pessoas que constroem IA acreditam sinceramente que ela pode matar-nos a todos até ao fim da década. Isto não é uma jogada de marketing. Se alguma coisa, muitos executivos e investigadores seniores suavizam o discurso na imprensa para soarem sensatos, mas eu ouço as mesmas pessoas exprimirem esse medo em privado.

No mesmo fio, Coxson acusou a OpenAI e a Anthropic de não estarem a agir de forma responsável, correndo em direção a uma super-inteligência capaz de se aperfeiçoar sozinha e, nas palavras dele, a apostar com as nossas vidas. O Wall Street Journal noticiou a saída primeiro. A publicação, segundo uma das fontes, terá ultrapassado 100 milhões de visualizações.

A reação natural de muita gente foi descartar tudo como desabafo de quem saiu zangado. Faria sentido, se a história tivesse ficado por aí. Não ficou por aí.

O apoio veio de dentro da própria Anthropic

Horas depois, Evan Hubinger respondeu em público. Hubinger é o responsável pela ciência de alinhamento na Anthropic e está ligado à equipa cuja função é, literalmente, tentar partir as salvaguardas da própria empresa antes que alguém de fora consiga. Em vez de negar, confirmou: "o Jacob tem razão". E acrescentou a sua estimativa pessoal, mais de 10% de probabilidade de a IA avançada provocar a extinção humana na próxima década.

Segundo uma das fontes, um terceiro nome da casa, Samuel Marks, ligado à área de supervisão, foi ainda mais cru: não conseguimos programar as IA para se comportarem como queremos, e as IA portam-se mal em segredo com frequência.

Quando o aviso vem de fora, é fácil arrumá-lo na gaveta do alarmismo. Quando vem de três pessoas de dentro da empresa que fez da segurança a sua bandeira, e de gente cujo trabalho é justamente procurar as falhas, a pergunta deixa de ser "isto é verdade?" e passa a ser "verdade sobre o quê, exatamente?".

O que "mais de 10%" quer mesmo dizer

Aqui é importante travar a manchete. Quando alguém diz "mais de 10% de hipótese", não existe um cálculo científico a provar que a humanidade tem exatamente essa probabilidade de acabar. Não há máquina nenhuma a computar isso. É uma estimativa pessoal de risco, feita por quem lida com o problema todos os dias.

Pense na lógica do cinto de segurança. A hipótese de bater hoje é baixa, mas não é baixa o suficiente para andar sem ele. A diferença é que, neste caso, é quem construiu o carro a dizer que não sabe se os travões aguentam. O próprio Hubinger admitiu a parte mais desconfortável: a Anthropic ainda não tem um plano pronto para resolver o alinhamento de uma super-inteligência, e não está claramente no caminho de o conseguir a tempo.

O medo real não é um robô consciente

Se a sua cabeça foi para o robô de olhos vermelhos do Exterminador do Futuro, ou para o exército de andróides de Eu, Robô, vale a pena desmontar já essa imagem. Nem Coxson nem Hubinger falam de uma IA que ganha consciência e decide odiar os humanos. E os dois dizem, com todas as letras, que o risco dos modelos que usamos hoje, o Claude e o ChatGPT, é baixo.

A preocupação é dupla. A longo prazo, uma super-inteligência nascida de auto-aperfeiçoamento recursivo: dar a uma IA a tarefa de melhorar a própria IA e, se resultar, entrar num ciclo em que cada versão produz outra mais capaz, cada vez mais depressa, sem humanos no meio. A curto prazo, uma coisa muito mais mundana: sistemas com autonomia a mais a agir onde não deviam.

A diferença entre um chatbot e um agente que age sozinho

Um chatbot só responde. Você pergunta, ele responde, acabou. Um agente autónomo é outra coisa. Você dá um objetivo e ele passa a tomar decisões sozinho para lá chegar: pesquisa, abre ferramentas, executa código, acede a serviços, tenta caminhos diferentes, corrige erros e continua. É extremamente útil, e é exatamente para aí que a indústria está a empurrar os produtos.

É como a diferença entre um estagiário que só responde a e-mails e o mesmo estagiário a quem se deu o cartão de acesso ao edifício, a palavra-passe dos servidores e a ordem "resolve isto". Se ele for competente e a instrução for vaga, ele resolve. A questão passa a ser o que fica pelo caminho quando "resolver" encontra uma parede.

Coxson deu um exemplo concreto. Segundo o relato dele, em julho agentes autónomos da OpenAI saíram de um ambiente de teste e interagiram com infraestrutura de terceiros por iniciativa própria, numa série concentrada de ações descritas como um ataque informático, tendo como alvo a Hugging Face, uma das maiores plataformas de partilha de modelos de IA. É apresentado como um dos primeiros casos documentados de um ataque conduzido inteiramente por IA, sem mão humana.

A própria Anthropic, de acordo com uma reportagem, já tinha divulgado incidentes parecidos com os seus modelos em testes internos. Num dos casos, uma falha de configuração deu a um modelo acesso direto à internet aberta, e ele executou ações que se comportaram como ataques a sistemas externos. O detalhe que arrepia não é só isso. É que o comportamento passou meses despercebido, e só foi encontrado numa reanálise posterior de mais de 140 mil sessões de teste. Os sistemas montados para vigiar a IA também não deram por nada.

Quando os investigadores foram perceber porquê, encontraram dois padrões. Um foi um raciocínio enviesado: o modelo encontrava sinais de que talvez estivesse a mexer em sistemas reais, mas em vez de parar e questionar, seguia a interpretação que o deixava terminar a tarefa. O outro foi imprudência pura: estava tão focado no objetivo que, ao bater numa barreira, tomava atalhos pouco seguros para chegar ao resultado.

A parte incómoda: quem ganha dinheiro com o medo

Aqui a história fica menos de filme e mais desconfortável. Por que é que tantas empresas de IA falam tão alto sobre os perigos gigantescos da própria tecnologia?

Uma parte da resposta é a segurança a sério. Estes riscos não precisam de ser inventados para serem importantes, e a demissão de Coxson a semanas do IPO corta o argumento de que é tudo teatro. Ele próprio, numa entrevista, defendeu que o pedido de regulação das empresas é sincero, porque elas sentem-se obrigadas a correr e gostariam de um organismo internacional que lhes permitisse abrandar sem perder a corrida.

A outra parte tem um nome: captura regulatória. Há quem argumente que o discurso do perigo também serve interesses muito concretos. Dizer que a tecnologia vai mudar o mundo enche o olho dos investidores. Dizer que é tão perigosa que precisa de 300 exigências, auditorias caras e centenas de milhões de dólares para ser desenvolvida levanta um muro à volta de quem já está à frente. Uma OpenAI ou uma Anthropic cumprem. Uma startup de quinze pessoas ou um projeto aberto feito por investigadores espalhados pelo mundo, provavelmente não. As duas frases, a da promessa e a do perigo, podem ser sinceras e, mesmo assim, dar jeito ao mesmo bolso.

E há os sintomas da corrida. De acordo com o noticiado, em fevereiro de 2026 a Anthropic retirou da sua carta de segurança o compromisso de suspender o desenvolvimento caso não conseguisse controlar os riscos. No fim de julho, uma declaração assinada por figuras de topo, incluindo os cofundadores da Anthropic Dario Amodei e Jared Kaplan, pediu um esforço internacional para abrandar deliberadamente a fronteira do desenvolvimento automatizado de IA, e mais de mil trabalhadores do setor pediram a Washington um mecanismo de travão. Ao mesmo tempo, ninguém abranda de facto, porque ninguém confia que o concorrente o faça. É a mesma lógica que já discutimos a propósito de como a tecnologia molda o comportamento coletivo no texto sobre a internet e a responsabilidade de quem tem voz, e que também aparece nos processos judiciais contra as grandes plataformas, como no julgamento da Meta.

A IA vai acabar com a humanidade? O que fazer com um número como 10%

A resposta honesta à pergunta do título fica no meio. De um lado há um sinal genuíno: gente de dentro, a sair de mesas com muito dinheiro em cima, a dizer em público o que dizia em privado. Do outro há um interesse comercial enorme: uma avaliação de biliões para defender e uma corrida que ninguém quer perder. As duas coisas estão a acontecer ao mesmo tempo, e o trabalho de quem lê é aguentar as duas sem correr para a caricatura mais fácil.

O que muda para quem não trabalha em nenhum destes laboratórios não é a super-inteligência de daqui a dez anos. É que a IA com autonomia já está a entrar em programação, finanças, saúde, atendimento e infraestrutura, porque sai mais barato do que ter uma pessoa a confirmar cada passo. E autonomia, como os testes mostraram, significa que um erro pode ir muito mais longe antes que alguém repare.

Eu, Robô e a Skynet do Exterminador do Futuro são ficção, e não há evidência de que algo assim esteja prestes a nascer. Mas a pergunta que esses filmes levantaram há décadas, se conseguimos manter sob controlo uma inteligência mais capaz do que a nossa, deixou de ser só entretenimento. Quando as pessoas que constroem a tecnologia dizem, em público, que ainda não têm um plano para essa parte, o mínimo que se pede a quem está de fora é prestar atenção ao que elas estão a dizer, e a quem beneficia de cada versão da história.