Agentes de Inteligência Artificial (IA) desenvolvidos por empresas líderes agiram de "formas inaceitavelmente perigosas", contrariando instruções e tomando atitudes que "seriam crimes se cometidas por humanos", alertou ontem o copresidente de um Painel Internacional Independente da ONU.

Numa sessão de alto nível do Conselho de Segurança da ONU sobre IA, Yoshua Bengio advertiu para acontecimentos dos últimos meses que se tornaram "num momento de despertar global", em que agentes de IA escaparam do confinamento para "trapacear" em tarefas designadas, enquanto tentavam evitar serem detetados.

"Enganaram em tarefas atribuídas enquanto tentavam evitar a deteção. Os agentes de IA autónomos e descontrolados lançaram com sucesso ciberataques coordenados e alteraram as suas respostas para ocultar as suas batotas", denunciou Bengio.

As empresas que constroem os sistemas de IA mais poderosos admitiram que os seus produtos representam riscos catastróficos, mas não ofereceram soluções técnicas convincentes, criticou o copresidente do Painel Científico Internacional Independente sobre IA.

E acrescentou: "Em vez disso, afirmam estar numa corrida para tornar essa IA ainda mais poderosa, o que amplifica ainda mais esses riscos".

"Este Conselho enfrenta uma ameaça sem precedentes, uma que nenhum dos seus membros escolheria, que nenhum pode conter sozinho e que não respeita as fronteiras que defendemos", frisou.

O especialista admitiu a existência de ceticismo em relação às declarações destas empresas, mas fez questão de afastar essas desconfianças.

"Estes comportamentos de IA estão bem documentados e validados por muitos especialistas independentes (...). Os perigos são reais e iminentes", sublinhou.

Ao insistir na gravidade da situação, afirmou que os cidadãos e os seus Governos não devem aceitar a alegação das empresas de que estão presos numa corrida.

O Presidente dos Estados Unidos, Donald Trump, afirmou na segunda-feira que não vai travar o crescimento da IA, numa altura em que garante que o país vai "à frente" da China e de todos.

"Agora, vamos à frente da China e do resto do mundo, e vou manter essa posição! Não vou travar o crescimento de uma coisa que será maior que a Revolução Industrial ou que a própria Internet", escreveu Trump na sua rede social, Truth Social.

Na reunião de hoje do Conselho de Segurança esteve igualmente presente Sam Altman, diretor-executivo da OpenAI, que afirmou que esta tecnologia pode ser "um novo renascimento da criatividade e da descoberta" ou "uma nova revolução Industrial de convulsão e desordem".

"Algumas das coisas que as pessoas que trabalham para construir IA disseram são tão distópicas que parecem o enredo de maus filmes de ficção científica", considerou, sublinhando que tudo o que é poderoso também é intimidante.

No entanto, reconheceu que à medida que os sistemas de IA se tornam mais capazes e autónomos, "podem mover-se mais rápido do que as nossas instituições, concentrar o poder em poucas mãos ou tomar decisões que as pessoas não entendem ou controlam mais".

"Este momento exige extrema cautela", declarou Altman, afirmando que "a indústria não deve aceitar riscos tecnológicos excessivos apenas porque os benefícios são muito grandes".

Alertou, porém, contra cair na "armadilha" de se submeter ao "otimismo cego" ou ao "pessimismo", enfatizando que "deixar-se levar por extremos não ajudará a resolver com sucesso os desafios que temos pela frente".

Altman argumentou que a sua empresa, conhecida por criar o ChatGPT, tenta "seguir o caminho do meio entre esses dois polos".

Já Dario Amodei, diretor-executivo da Anthropic, afirmou que o ritmo acelerado do progresso da IA trará "benefícios incríveis para o mundo". No entanto, "essas capacidades notáveis vêm acompanhadas de riscos que precisam de ser geridos".

"Se mal administrada, acredito que a IA possa representar um risco para a humanidade como um todo", reconheceu.

Amodei afirmou que a Anthropic "irá desacelerar o quanto for necessário para garantir que cada tecnologia subsequente que lançar seja realmente segura".

O 'CEO' apresentou três sugestões ao Conselho, incluindo a criação de acordos "restritos" que todos os Estados-membros possam apoiar, como a proibição do uso de IA para a produção de armas biológicas.

Além disso, sugeriu que o órgão poderia trabalhar para construir sistemas de avaliação que acompanhem o desenvolvimento da IA e estabelecer padrões globais comuns para testar modelos de IA quanto aos riscos de perda de controlo e uso indevido.