Investigadores alertam para perigo dos novos agentes autónomos de IA
A inteligência artificial (IA) é uma tecnologia amplamente utilizada através de assistentes como o ChatGPT ou o Gemini, mas os especialistas alertam que os agentes de IA com maior autonomia podem ser facilmente explorados por 'hackers'.
Segundo investigadores da Escola Politécnica Federal de Lausanne (EPFL), que realizaram vários testes com estes agentes de IA, é relativamente fácil levá-los a executar ações "prejudiciais" utilizando estratégias específicas que não foram consideradas nos testes de segurança convencionais.
Neste sentido, os investigadores do Laboratório de Processamento de Linguagem Natural da EPFL concluíram que, se estes agentes receberem um pedido direto para realizar algo ilícito ou prejudicial, vão dizer que não. No entanto, isto pode mudar se o pedido for dividido em vários comandos.
"Se pedir a um agente de IA para piratear a conta de outra pessoa, os modelos são geralmente suficientemente inteligentes para recusar, mas, se o objetivo for decomposto em pedidos mais pequenos e aparentemente inócuos, as probabilidades aumentam", destacou o diretor do laboratório, Antoine Bosselut.
Os investigadores testaram esta abordagem em 176 cenários diferentes de tarefas prejudiciais, utilizando modelos de IA como o GPT, Gemini ou Claude, e descobriram que, em alguns casos, os agentes tinham o dobro da probabilidade de completar estas ações maliciosas se os 'hackers' avançassem gradualmente.
Além disso, nos testes, os investigadores descobriram que, se os 'hackers' alterassem o idioma dos pedidos feitos à IA durante as diferentes fases da ação, a hipótese de sucesso numa tarefa prejudicial "aumentava drasticamente".
Com estas pesquisas, os especialistas procuram chamar a atenção para a segurança de uma tecnologia já muito presente na sociedade e repleta de possibilidades, mas também de riscos.
"Tradicionalmente, a segurança é algo que se aborda quando algo falha, e não antes, mas, com os agentes de IA, isso não pode ser deixado para depois", alertou Bosselut.
