Um engenheiro britânico da Anthropic, que também trabalhou nos últimos três anos para a OpenAI, demitiu-se recentemente alegando que ambas as empresas "não estão a agir de forma responsável" em relação à inteligência artificial (IA) e "brincam com vidas".

Jacob Coxon, engenheiro de software apontado pelos media como um dos desenvolvedores do GPT-4o e do GPT-4.5 (embora sem cargos de chefia), alertou numa sequência de publicações na rede social X que as pessoas por detrás do desenvolvimento exponencial da IA "acreditam que esta nos poderá matar a todos até ao final desta década", pois "não existe outra atividade humana que represente este nível de ameaça".

Para o engenheiro de 27 anos, o poder da tecnologia está a ser subestimado, uma vez que os projetos de inteligência artificial (IA) "em breve se tornarão sistemas sobre-humanos capazes de piratear qualquer coisa, revolucionar todas as áreas e conquistar poder e recursos reais".

Para este engenheiro, tanto a OpenAI como a Anthropic têm consciência desta realidade, mas aponta uma diferença: a primeira "talvez não tenha interiorizado profundamente os desafios civilizacionais", enquanto a segunda os compreende bem, mas "está presa na corrida para chegar primeiro".

Coxon não vê outra saída para além da coordenação entre os diferentes projetos de IA e as empresas neles envolvidas, mas sente que isso não está a acontecer.

E, por isso, defende "medidas de alto custo, como uma proibição temporária de melhorar as capacidades do modelo (model capabilities)" e pede aos investigadores de IA que reflitam profundamente sobre a questão.

"Querem impulsionar uma 'aprendizagem por reforço' (RL, na sigla técnica) superinteligente sem uma compreensão rigorosa da vossa mente?" --- perguntou aos seus colegas da área da IA.

"Vão baixar a cabeça porque 'afinal, isto já está a acontecer', ou aproveitar este momento para defender condições diferentes?", concluiu Coxon numa sequência de publicações que já tiveram enorme impacto nos media.

Em resposta, Evan Hubinger, investigador da Anthropic, fez no X uma ressalva ao discurso do engenheiro: "Jacob tem aqui razão; acreditamos realmente com sinceridade que a IA poderia matar todos os humanos. Pessoalmente, acho que a probabilidade é superior a 10% na próxima década".

Apesar disso, Hubinger considera que o risco dos modelos atuais é baixo, embora o que preocupe seja "a superinteligência resultante do auto-aperfeiçoamento recursivo (...) que está a acontecer mais depressa do que se imaginava".

Coxon não foi o único investigador a afastar-se do desenvolvimento de modelos de IA nos últimos anos, após alertar para os seus perigos.

Geoffrey Hinton, Prémio Nobel da Física, deixou o seu cargo na Google em 2023 para poder criticar os riscos da IA sem as restrições corporativas.

Em 2024, numa carta aberta, ex-funcionários da OpenAI manifestaram a sua preocupação com o rápido desenvolvimento da IA e a ausência de leis que protegessem os denunciantes.