A OpenAI apresenta o GPT-6 Astra como seu modelo mais alinhado e, no mesmo anúncio, reconhece que seu raciocínio escrito foi mais difícil de monitorar do que o do GPT-5.6 Sol em testes que pediam explicitamente ao modelo para evitar a supervisão.

Um modelo pode cometer menos violações em determinada avaliação e oferecer menos pistas para detectar as violações que ainda consegue cometer. A empresa atribui a dificuldade ao maior controle sobre o raciocínio escrito em tarefas simples e à capacidade de resolver problemas com menos passos verbalizados. Também informa que o modelo ainda parece ter dificuldade para esconder o raciocínio necessário a tarefas complexas. São resultados e interpretações da própria OpenAI, sob as condições descritas em sua publicação de lançamento.

Para quem coloca agentes em operação, surge uma pergunta concreta: se parte do trabalho fica menos visível, que evidências continuam disponíveis para autorizar uma ação e verificar seu resultado?

Computação que não precisa virar frase

Uma linha de pesquisa relacionada a essa questão é o raciocínio latente. O anúncio citado não estabelece que essa seja a arquitetura do Astra. Os estudos a seguir ajudam a explicar um mecanismo de processamento e suas implicações para a supervisão, sem reconstruir a implementação de um produto comercial.

Em um modelo que produz uma cadeia de raciocínio textual, parte do processamento se desenvolve pela geração de trechos intermediários de texto. O modelo escreve passos que podem ser usados na continuação da resposta e, quando disponíveis a um sistema de monitoramento, inspecionados.

O raciocínio latente explora processamento intermediário que não precisa ser convertido em palavras a cada etapa. O estado continua representado numericamente dentro do modelo. Nesse contexto, “raciocínio” descreve um mecanismo computacional; não implica consciência ou uma experiência mental humana.

No trabalho Scaling up Test-Time Compute with Latent Reasoning, publicado inicialmente em fevereiro de 2025, pesquisadores estudaram uma arquitetura que repete um bloco de processamento. Ela pode dedicar mais computação a uma entrada aumentando o número de repetições desse bloco, em vez de depender apenas da produção de mais texto intermediário.

Outra abordagem, Coconut, usa o último estado numérico interno do modelo como entrada para o próximo passo, sem antes convertê-lo em palavras. Tecnicamente, esse estado oculto é usado como embedding de entrada. As duas propostas investigam raciocínio latente, mas não são a mesma arquitetura.

Esses estudos apresentam ganhos nas avaliações que realizaram. Eles não demonstram que toda tarefa fica mais barata, rápida ou correta. Repetir processamento também consome recursos. Menos tokens de saída, isoladamente, não informa o custo computacional completo nem a latência de uma operação.

A cadeia de raciocínio é uma fonte de evidência

Em março de 2025, a OpenAI publicou experimentos sobre detecção de comportamento indevido em modelos de raciocínio. Nos ambientes de programação avaliados, um monitor com acesso ao raciocínio e às ações detectou tentativas de explorar falhas dos testes melhor do que um monitor limitado às ações.

O estudo também mostrou um problema de incentivo. Ao penalizar diretamente os sinais de comportamento indevido no raciocínio escrito, o treinamento reduziu parte desse comportamento, mas tornou o que persistia mais difícil de detectar pelo monitor de raciocínio naquele experimento.

A ausência de sinais de comportamento indevido no raciocínio escrito não basta para concluir que a tarefa foi executada corretamente.

Um trabalho conjunto sobre monitorabilidade, publicado inicialmente em julho de 2025, descreve essa oportunidade como promissora e frágil. Seus autores recomendam preservar e estudar o monitoramento de cadeias de raciocínio junto a outros métodos de segurança, reconhecendo que ele deixa passar parte dos comportamentos indevidos.

Há ainda uma distinção importante para o comprador de IA: a explicação exibida na interface pode ser um resumo produzido para o usuário. Ela não deve ser presumida equivalente ao registro de raciocínio disponível ao fornecedor, nem a um relato completo e fiel de todo o processamento interno.

Pedir “explique seu raciocínio” não cria, por si só, uma trilha de auditoria.

O que precisa ficar do lado de fora do modelo

A partir desses limites, nossa recomendação operacional é combinar restrições nas ferramentas com evidências da execução.

Considere um exemplo hipotético: um agente recebe a tarefa de preparar um reembolso. Ele localiza o pedido, interpreta a política comercial e propõe um valor.

Uma explicação convincente não demonstra que o destinatário está correto ou que o pagamento foi autorizado. O sistema precisa conferir o vínculo com a compra original, calcular o limite aplicável e verificar quem pode aprovar aquela operação. A execução deve produzir uma referência verificável. Se a confirmação do pagamento não chegar, o sistema deve verificar se ele já foi realizado antes de tentar novamente, para evitar um pagamento duplicado.

Essas condições precisam ser aplicadas pelas ferramentas e pelo sistema transacional. Instruções no prompt ajudam a orientar o agente, mas não substituem controles que recusem uma chamada indevida.

Na Ontologia Operacional, organizamos essa fronteira em dados, lógica e ação. Neste exemplo, isso significa representar explicitamente o pedido e seu estado, vincular a política à decisão de reembolso e oferecer uma ação com parâmetros, permissões e resultado verificáveis.

Para esse caso, propomos registrar o objeto afetado, a versão da regra aplicada, a aprovação, os parâmetros efetivos e a evidência retornada pela execução. Não é necessário guardar indiscriminadamente documentos pessoais ou todo o conteúdo usado na análise.

Essa estrutura não revela o processamento latente nem garante o alinhamento do modelo. Sua função é delimitar o que o agente pode fazer e permitir verificar o que aconteceu, mesmo quando a explicação textual é insuficiente.

Testar também quando a tarefa não pode ser concluída

Uma avaliação de agentes precisa incluir situações em que parar é o comportamento correto.

Os testes devem incluir documento necessário ausente, usuário sem permissão, serviço externo sem resposta e operação negada por uma ferramenta. O resultado esperado nesses casos não é uma improvisação que produza a aparência de sucesso.

É preciso observar se o agente comunica a lacuna com precisão, preserva o trabalho já realizado e não amplia o escopo para perseguir a meta. Também convém verificar se os controles bloqueiam a ação indevida nos cenários testados, antes do efeito externo quando essa prevenção for possível.

Isso não exige interromper cada leitura ou edição reversível com uma aprovação humana. O responsável humano define os limites da autonomia e quais efeitos exigem sua aprovação. Leituras autorizadas e edições reversíveis podem seguir dentro desses limites; consultar um documento e executar um pagamento têm consequências diferentes.

A própria OpenAI descreve, no lançamento do Astra, uma combinação de treinamento, revisão de ações e monitoramento de raciocínio e ações em produção. Reconhece ainda que esses controles podem interromper trabalho legítimo. O desenho operacional precisa medir essa fricção, além de medir violações detectadas.

A decisão de adoção

Menor visibilidade textual não prova intenção maliciosa, assim como um bom resultado em benchmark não autoriza ampliar o acesso de um agente aos sistemas da empresa.

Uma comparação útil entre modelos mede a conclusão correta da tarefa dentro das permissões concedidas. Inclui custo total, tempo, necessidade de intervenção, falhas que os controles deixaram passar mas foram identificadas na avaliação, e capacidade de recuperar uma execução interrompida. A ampliação da autonomia depende de critérios de aceitação definidos para aquela operação e suas consequências. Trocar o modelo exige repetir os testes relevantes, pois comportamento e controles do fornecedor podem mudar.

O resultado registrado e a aprovação nos testes não substituem o aceite do responsável nem demonstram, por si, valor na operação. Esse valor precisa ser verificado pelas medidas de custo, tempo e intervenção, comparadas com a rotina anterior quando houver uma referência confiável.

Antes de ampliar a autonomia de um agente, escolha uma ação que ele possa executar e faça uma verificação: se a explicação textual estivesse ausente, quais evidências permitiriam autorizar essa ação e confirmar seu resultado?

Se a resposta depender apenas da palavra do próprio agente, falta construir a verificação dessa operação.

Referências