A expansão dos agentes de inteligência artificial nas empresas está criando novos desafios para as áreas de tecnologia e segurança. Diferentemente de ferramentas que apenas produzem textos e análises, esses sistemas podem consultar informações, interagir com aplicações corporativas e executar tarefas com diferentes níveis de autonomia.
Segundo o estudo State of AI in the Enterprise 2026, da Deloitte, apenas 21% das organizações pesquisadas possuem um modelo maduro de governança para agentes de IA. O levantamento, realizado com 3.235 executivos de negócios e tecnologia em 24 países, também aponta que 74% esperam utilizar essas soluções pelo menos moderadamente nos próximos dois anos.
O cenário evidencia um descompasso entre a adoção da tecnologia e a capacidade das empresas de supervisionar suas atividades. Para Rafael Pavanelli, COO e CTO da DOMVS iT, empresa especializada em tecnologia e transformação digital, a segurança precisa considerar não apenas as informações às quais os agentes têm acesso, mas também as ações que podem executar e os resultados que entregam.
“Não basta limitar o que o agente de IA pode acessar. Também precisamos verificar o que ele entrega. A revisão pode começar com checagens automáticas para erros objetivos, avançar para avaliações com exemplos de referência e reservar a análise humana para situações que realmente exigem julgamento. Tudo o que a máquina consegue verificar com segurança deixa de consumir o tempo da equipe”, afirma Pavanelli.
Um dos primeiros passos para reduzir os riscos é estabelecer identidades digitais e níveis de acesso específicos para cada agente. Na prática, isso significa definir quais informações ele pode consultar, quais registros pode alterar, quais sistemas está autorizado a acionar e quais operações exigem aprovação humana. Sem limites compatíveis com sua finalidade, uma ferramenta criada para consultar documentos pode receber acesso desnecessário a informações financeiras, contratos ou dados pessoais.
A discussão ganhou relevância internacional em fevereiro de 2026, quando o Instituto Nacional de Padrões e Tecnologia dos Estados Unidos (NIST) divulgou um documento conceitual sobre identidade e autorização de agentes de software, submetido à consulta pública. A iniciativa aborda desafios relacionados à identificação dessas ferramentas, ao controle de privilégios e à auditoria de suas atividades. O documento não constitui uma norma, mas contribui para o debate sobre práticas de segurança adequadas a sistemas que acessam recursos e executam tarefas com autonomia.
Outro risco é a chamada prompt injection, técnica que utiliza instruções inseridas em conteúdos externos para tentar alterar o comportamento de sistemas de IA. Em ambientes corporativos, agentes que analisam documentos, mensagens ou páginas da internet precisam distinguir informações de referência de comandos autorizados. Caso contrário, podem ser induzidos a executar ações incompatíveis com sua finalidade ou com as permissões estabelecidas pela organização.
Além do controle de acessos, as empresas precisam acompanhar o comportamento dos agentes e manter registros que permitam reconstruir suas operações. A rastreabilidade deve ajudar a identificar quais ferramentas foram acionadas, quais informações foram utilizadas e quais ações ocorreram durante cada tarefa. Esses registros são importantes para investigar incidentes, identificar desvios e verificar se as atividades permaneceram dentro dos parâmetros definidos.
A supervisão também precisa considerar o impacto de possíveis falhas. Operações com consequências financeiras ou jurídicas, assim como atividades que envolvam dados pessoais, contratos e clientes, podem exigir revisão humana antes da execução ou da conclusão. Em tarefas de menor risco, verificações automatizadas e análises por amostragem podem reduzir o esforço de conferência sem eliminar a capacidade de identificar problemas.
Para Pavanelli, a revisão dos resultados deve ser estruturada de acordo com a natureza de cada atividade. Erros objetivos podem ser identificados por regras automáticas; tarefas com diferentes respostas possíveis podem ser avaliadas com exemplos de referência; e a análise humana deve ser direcionada aos casos em que contexto e julgamento fazem diferença. A estratégia evita tanto a dependência excessiva de conferências manuais quanto a liberação de resultados sem controles adequados.
“O ganho não está apenas em evitar erros, mas em tornar as entregas da IA mais consistentes. Quando o resultado oscila muito, ninguém confia plenamente na ferramenta e a equipe acaba revisando tudo. O objetivo é construir um processo em que a qualidade possa ser medida, os desvios sejam identificados e a intervenção humana aconteça onde realmente faz diferença”, explica o executivo.
A avaliação da qualidade pode ser acompanhada por indicadores como o percentual de entregas aprovadas na primeira revisão, o tempo médio gasto na conferência de cada item e a quantidade de erros que escapam dos controles iniciais e são identificados posteriormente. Em conjunto, essas medidas ajudam a entender a confiabilidade dos resultados, o esforço exigido das equipes e a efetividade dos mecanismos de supervisão.
A implementação pode começar pelos processos com maior volume de tarefas repetitivas, nos quais o investimento em critérios de avaliação e verificações automatizadas tende a trazer benefícios mais amplos. Em atividades pontuais, a revisão manual pode continuar sendo uma alternativa mais simples e econômica. A escolha deve considerar o volume de trabalho, o impacto de eventuais erros e a capacidade de automatizar as verificações com segurança.
Para a DOMVS iT, a segurança e a governança precisam fazer parte dos projetos desde a concepção. Identidades específicas, permissões limitadas, registros de auditoria e processos proporcionais de revisão são fundamentais para que as empresas ampliem o uso de agentes de inteligência artificial sem perder o controle sobre as operações.