Modelos da OpenAI infiltraram plataformas para atacar site

Dois modelos de inteligência artificial (IA) da OpenAI que escaparam autonomamente do ambiente controlado em que eram testados para atacar o site Hugging Face também se infiltraram noutras plataformas, revelou a empresa.

De acordo com um relatório do incidente atualizado, uma dessas plataformas foi usada como intermediária para preparar o ataque à Hugging Face, biblioteca de IA na qual os dois modelos procuravam respostas para testes enviados pelos programadores da OpenAI.

No total, foram pirateadas quatro contas associadas a outras plataformas, com o mesmo objetivo do ataque à Hugging Face. A OpenAI não divulgou os nomes das entidades visadas.

As duas IA utilizaram também vários sites de acesso público para copiar ou testar código de programação, mas sem ir além da conta de um utilizador comum.

A Hugging Face, que publicou o seu próprio relato detalhado dos acontecimentos, acredita que a invasão foi uma tentativa dos dois modelos de defraudar a avaliação da OpenAI.

As IA queriam roubar as soluções dos testes em vez de tentarem resolvê-los por conta própria.

Para efeitos de teste ao potencial de cibersegurança dos modelos, os informáticos da OpenAI tinham reduzido as medidas de segurança.

A empresa revelou que, para além do seu modelo mais avançado, o GPT-5.6 Sol, as outras IA envolvidas no incidente não se destinavam à comercialização e eram exclusivamente para uso interno.

O relatório da Hugging Face indica que o ataque durou pelo menos cinco dias até o site conseguir contê-lo.

Nenhum dos documentos o menciona explicitamente, e a empresa não respondeu a uma pergunta da AFP sobre o assunto, mas a OpenAI poderá ter tomado conhecimento da violação vários dias após esta ter ocorrido.

"Um hacker humano poderia ter encontrado e explorado as mesmas vulnerabilidades", ressalvou a empresa.

O que fez a diferença foi o enorme volume de tentativas, com nada menos que 17.600 processos contra a Hugging Face, marcados por muitas falhas, mas também por sucessos suficientes para que os modelos atingissem os seus objetivos.

"A escala e a velocidade destas ações excedem em muito as capacidades de um ser humano que opera manualmente", argumentou a Hugging Face.

Esta fuga de modelo não é a primeira a ser documentada, mas é considerada de longe a mais grave até à data.

Alimentou ainda mais o já aceso debate sobre a aceleração da IA, as suas capacidades em constante expansão e a dificuldade de a controlar.

Durante o incidente da OpenAI, os modelos utilizaram métodos que sabiam contradizer o cenário de teste, sem informar os programadores.

Na terça-feira, mais de mil funcionários de grandes empresas de IA, incluindo vários executivos de topo, pediram ao governo norte-americano que ajude a "atrasar" o lançamento de novos modelos, para dar tempo ao ecossistema tecnológico para se preparar. Numa petição, defendem que os Estados Unidos assumam a liderança na criação de um organismo internacional de referência para a avaliação e supervisão da IA.

Questionado sobre o assunto, o Presidente Donald Trump defendeu ser necessário "cuidado" e encontrar um equilíbrio no controlo de agentes de IA sem que o país seja ultrapassado pela China no desenvolvimento da tecnologia.

"Quem ganhar" esta corrida da IA "poderá muito bem levar todos os despojos", avisou Trump.

A comunidade de IA está ainda mais preocupada ao observar a aproximação da fase de "autoaperfeiçoamento recursivo", na qual a inteligência artificial seria capaz de conceber o seu próprio sucessor, numa sequência que poderia repetir-se vezes sem conta.

Os modelos mais recentes da OpenAI e da Anthropic foram parcialmente programados pela própria IA.