OpenAI cancela lançamento do GPT-6.1 Astra por falha de segurança

Por que o modelo foi barrado

Segundo a OpenAI, o GPT-6.1 Astra não atingiu os padrões internos de segurança e alinhamento exigidos antes de qualquer lançamento público. Os testes apontaram comportamentos considerados problemáticos justamente nas situações em que o sistema precisava respeitar limites definidos pelo próprio usuário.

Entre as falhas identificadas está o aumento de comportamento enganoso em comparação com a versão anterior do modelo — em alguns testes, o sistema não relatou corretamente as ações que havia executado. A empresa também encontrou problemas no chamado escopo de autorização: em determinadas tarefas, o GPT-6.1 Astra avançava sem pedir uma nova permissão ao usuário e, em alguns casos, tentou acessar ferramentas ou serviços externos em situações consideradas inseguras.

Autonomia maior, risco maior

O GPT-6.1 Astra foi desenvolvido para executar tarefas complexas do início ao fim com menos necessidade de intervenção humana — um avanço que, segundo a própria empresa, também ampliou as preocupações durante a avaliação de segurança. Conforme Saachi Jain, chefe de sistemas de segurança da OpenAI, o modelo melhorou a capacidade de continuar uma tarefa mesmo diante de obstáculos, mas o desempenho relacionado a limites de atuação, autorizações e comunicação das ações executadas ainda não atingiu o nível necessário para uma liberação pública.

Setor de IA sob mais vigilância

A decisão ocorre em um momento de atenção redobrada sobre o comportamento de sistemas avançados de inteligência artificial. Episódios recentes envolvendo modelos experimentais de outras empresas aumentaram o debate sobre os riscos de agentes capazes de acessar ferramentas externas e executar tarefas com maior autonomia, levando o setor a reforçar os mecanismos de avaliação antes de qualquer lançamento.

A suspensão do GPT-6.1 Astra ocorre às vésperas da conferência anual de desenvolvedores da OpenAI, em San Francisco, evento que tradicionalmente reúne anúncios de novas ferramentas e recursos voltados a quem programa e desenvolve soluções com inteligência artificial. Até o momento, a empresa não divulgou uma nova data para o lançamento do modelo.