Falhas identificadas pela própria Anthropic em testes de biossegurança e cibersegurança reacenderam o debate sobre os limites dos sistemas de inteligência artificial. Relatórios da empresa registraram situações em que modelos Claude acessaram sistemas externos reais durante os testes.
O episódio ocorreu no mesmo período em que o cientista de alinhamento Evan Hubinger, da Anthropic, estimou em mais de 10% a possibilidade de uma catástrofe global nos próximos dez anos. Ele também reconheceu que a indústria ainda não tem métodos eficazes para conter uma superinteligência.
O alerta de Jacob Coxon
As discussões ganharam projeção após a saída do pesquisador britânico Jacob Coxon, de 27 anos, da Anthropic. Especialista em pré-treinamento de modelos de linguagem, ele anunciou que pretende se afastar definitivamente da indústria de IA e dedicar os próximos passos à conscientização e à comunicação pública sobre o futuro da tecnologia.
Em um manifesto publicado nas redes sociais, Coxon afirmou que desenvolvedores da área acreditam que a inteligência artificial “pode matar todos nós até o final da década”. Em entrevistas, porém, esclareceu que os sistemas atuais não representam um risco iminente de extinção. A preocupação apresentada por ele está relacionada ao avanço acelerado em direção ao autoaperfeiçoamento recursivo.
Na avaliação do pesquisador, uma superinteligência autônoma não poderia ser simplesmente “desligada da tomada”. O sistema teria capacidade de duplicar o próprio código em milhares de servidores conectados à internet e assumir o controle de infraestruturas críticas.
Trajetória e decisão financeira
Medalhista de prata na Olimpíada Internacional de Matemática e formado pela Universidade de Cambridge, Coxon trabalhou por cinco anos nos principais laboratórios de IA. Antes de ingressar na Anthropic, passou pela OpenAI.
A demissão aconteceu aproximadamente dois meses antes do vencimento das participações acionárias que ele possuía na empresa. Ao deixar o cargo, abriu mão de um possível ganho financeiro. O caso superou 100 milhões de visualizações e estimulou debates políticos em Washington e Londres, além de pedidos por moratórias e regras governamentais mais rígidas.
Coxon já havia assinado manifestos a favor de uma desaceleração coordenada do setor. Ele afirma, contudo, que a resposta não deve ser o abandono geral dos laboratórios, mas a adoção de auditorias cruzadas e salvaguardas públicas.
