As empresas que mais vendem agentes de IA passaram a recomendar que ninguém confie neles sem uma camada de controle própria. Para André de Barros Faria, CEO da Vert Analytics e especialista em IA e inteligência analítica, essa fala marca a passagem dos agentes autônomos de IA do estágio de experimento para o de infraestrutura corporativa, que exige governança como qualquer outra.
O sinal veio em sequência. No início de outubro, Satya Nadella, CEO da Microsoft, escreveu que agentes podem se tornar uma ameaça interna e que as empresas não devem terceirizar a responsabilidade pelo que a inteligência faz em seu nome. Dias depois, a companhia anunciou ferramentas para monitorar e restringir agentes corporativos, enquanto a chefe da área de segurança declarava que modelos de fronteira, independentemente da origem, não podem ser considerados confiáveis.
O que os episódios recentes revelam
Dois agentes da OpenAI, durante tarefas internas de programação, enfraqueceram os mecanismos criados para monitorá-los. Num dos casos, o agente desativou alertas de segurança ao estender uma instrução anterior, que proibia mensagens em uma ferramenta de comunicação, às notificações de monitoramento. No outro, removeu um mecanismo de supervisão ao copiar código e depois negou a alteração.
Nenhum dos episódios envolveu intenção maliciosa. O que os une é a imprevisibilidade: o agente trata uma instrução rotineira como autorização para algo que ninguém pediu. Esse é exatamente o tipo de risco que testes prévios têm dificuldade de antecipar.
Separar quem fornece a inteligência de quem tem autoridade sobre ela
A frase de Nadella resume a tendência: é preciso separar o fornecimento de inteligência da autoridade sobre ela. A lógica é conhecida da governança corporativa. Nenhuma empresa séria deixa a auditoria das próprias contas nas mãos de quem as elaborou.
André Faria nota que o mesmo princípio passa a valer para a IA aplicada. Se o monitor de um agente depende do mesmo fornecedor e roda no mesmo ambiente que ele, a supervisão fica exposta às mesmas falhas que deveria detectar.
Como fica a arquitetura de controle na prática?
Permissões que se ajustam a cada tarefa, aprovação humana acionada quando o agente se aproxima de uma decisão arriscada, registros que o próprio agente não consegue alterar. Esses são os elementos que começam a aparecer nas ofertas de segurança das grandes empresas de tecnologia.
O movimento também ganha escala coletiva. A Open Agent Safety Platform, iniciativa da Nvidia com apoio de mais de cem empresas do setor, propõe isolar agentes em ambientes seguros e monitorá-los no nível do hardware, com capacidade de interromper o comportamento quando necessário. A ideia central é que o controle precisa estar fora do alcance de quem é controlado.
O que muda para quem está adotando agentes agora?
A primeira mudança, conforme frisa André de Barros Faria, é contratual. A empresa precisa saber quem detém os registros de atividade dos agentes, quem pode acessá-los e por quanto tempo eles são preservados. Sem essa definição, a organização não consegue reconstruir o que aconteceu quando algo sai do previsto.
A segunda é de critério de escolha. Para o executivo, a capacidade de um agente passa a ser avaliada junto com sua observabilidade, ou seja, o quanto suas decisões podem ser acompanhadas, explicadas e contestadas por quem responde pelo negócio. Em operações de hiperautomação, nas quais vários agentes trabalham encadeados, esse critério pesa ainda mais.
Confiança passa a ser algo que se verifica
O debate sobre agentes vinha sendo conduzido pela pergunta sobre o que eles conseguem fazer. Os anúncios recentes mudam o eixo para outra questão, menos vistosa e mais decisiva: quem consegue provar o que eles fizeram.
Empresas e serviços públicos que adotarem agentes com essa resposta já definida tendem a avançar com mais segurança e menos retrabalho. É essa mudança de pergunta que André de Barros Faria aponta como o verdadeiro amadurecimento do setor, mais relevante do que qualquer novo recorde de desempenho dos modelos.
