A OpenAI revelou que os seus agentes de inteligência artificial (IA) interagiram com vários 'sites' do governo norte-americano de forma inesperada, tendo sido detetado numa análise em curso sobre comportamentos imprevistos dos seus modelos.

Os modelos de IA da empresa dona do ChatGPT acederam a informações publicamente disponíveis em dois 'sites' operados pelo regulador de mercados norte-americano (SEC), assim como a dados do Departamento de Censos dos EUA, revelou a empresa na sexta-feira.

A OpenAI não detetou o uso de credenciais da SEC, acesso a contas ou informações não públicas, alterações em dados ou sistemas da SEC, nem provas de comprometimento ou vulnerabilidade, afirmou a tecnológica norte-americana.

A revelação surge numa altura de crescente preocupação global com a possibilidade de os sistemas de IA escaparem ao controlo humano e invadirem 'sites' externos, a par de apelos do setor para uma desaceleração no desenvolvimento da IA - algo que a OpenAI declarou apoiar.

A porta-voz da OpenAI, Liz Bourgeois, afirmou, num comunicado, que o laboratório continua a rever a "atividade dos modelos desalinhados" - ou seja, quando os sistemas de IA se comportam de formas indesejadas - e a notificar as organizações sempre que identifica possíveis impactos nos seus sistemas.

O presidente executivo (CEO) da OpenAI, Sam Altman, afirmou nas redes sociais que está a ser realizada uma "análise abrangente e contínua" sobre o que os seus agentes de IA fazem durante o acesso à Internet.

A Transluce, laboratório de investigação e avaliação de IA, revelou na sexta-feira que, através de uma investigação independente, constatou também que agentes de IA aparentemente provenientes da OpenAI tentaram realizar um 'hack' rudimentar a um 'site' do gabinete de direitos civis do Departamento de Educação, mas sem sucesso.

As "análises de operações de sistemas" do Departamento de Educação não encontraram "nenhuma prova de impacto no nosso 'site' ou nas nossas bases de dados", afirmou um porta-voz do organismo.

Um porta-voz da Transluce declarou que, no âmbito da sua investigação, a empresa encontrou dados na Internet aberta que revelavam novos detalhes sobre as atividades de alguns agentes da OpenAI - já identificados anteriormente - em 'sites' do governo dos EUA, tendo levado esta informação ao conhecimento da OpenAI.

Várias empresas relataram incidentes nos últimos meses em que os seus modelos se teriam comportado de forma imprevisível ou invadido 'sites' e sistemas de outras organizações.

Em julho, a OpenAI revelou que dois dos seus modelos de IA mais avançados foram responsáveis por um ciberataque contra a Hugging Face, uma 'startup' na área da IA.

Numa publicação nas redes sociais, na sexta-feira, Altman afirmou que o incidente que envolveu a Hugging Face "continua a ser o evento mais grave" a que já se assistiu.

Este episódio gerou o pânico generalizado no setor e, perante a possibilidade de os modelos de IA atuarem de forma descontrolada, vários laboratórios concorrentes fizeram relatos semelhantes nos dias e semanas seguintes.

Mais recentemente, a OpenAI divulgou seis casos de comportamento "inesperado ou preocupante" em modelos de IA e apresentou uma estrutura para monitorizar, investigar e divulgar ocorrências do que classificou como desalinhamento.