A inteligência artificial deixou de ser utilizada apenas para responder perguntas, gerar textos ou resumir documentos.
No ambiente corporativo, uma nova geração de sistemas começa a assumir tarefas com maior autonomia.
São os agentes de IA, capazes de interpretar objetivos, planejar etapas, consultar informações, utilizar ferramentas, executar ações e interagir com diferentes sistemas em nome de usuários ou da própria organização.
Essa mudança amplia as possibilidades de automação, mas também modifica o cenário de cibersegurança nas empresas.
Um chatbot que apenas produz uma resposta apresenta uma superfície de risco diferente de um agente de IA autorizado a consultar um banco de dados, acessar e-mails, abrir chamados, executar códigos, alterar registros ou acionar APIs.
O próprio NIST destaca que agentes de IA combinam modelos de inteligência artificial com recursos de software capazes de executar ações em ambientes reais, criando riscos que não aparecem da mesma forma em aplicações tradicionais.
Em 2026, a instituição passou a tratar especificamente de identidade, autorização e segurança de agentes de IA em iniciativas voltadas à criação de padrões para essa tecnologia.
Nesse contexto, manter o controle não significa simplesmente bloquear o uso de IA no trabalho.
O desafio é criar uma arquitetura na qual o agente tenha autonomia suficiente para cumprir sua função, mas permaneça limitado por identidade, permissões, políticas, registros, monitoramento e mecanismos de intervenção humana.
Leia também no Tech Dicas
Cursos de Redes do NIC.br: capacitações gratuitas
Aprenda Claude de Graça: Curso de IA Oficial Anthropic
IBM Oferece Cursos Gratuitos com Certificado
O que são agentes de IA e por que eles mudam a segurança?
Um agente de IA é um sistema que utiliza modelos de inteligência artificial para interpretar informações, tomar decisões dentro de determinados limites e executar ações por meio de ferramentas ou sistemas conectados.
A diferença em relação a um assistente tradicional está justamente na capacidade de agir.
Imagine um agente utilizado pelo suporte de TI, ele recebe um chamado informando que determinado colaborador não consegue acessar um sistema.
Em vez de apenas sugerir procedimentos, o agente pode consultar a base de conhecimento, verificar informações do usuário, identificar possíveis incidentes relacionados, consultar ferramentas de monitoramento e até executar determinadas ações previamente autorizadas.
Essa autonomia cria valor operacional, mas também amplia a superfície de ataque. Quanto mais sistemas, dados e ferramentas um agente consegue acessar, maior é o impacto potencial de uma falha, de uma manipulação ou de uma autorização excessiva.
O NIST aponta que os agentes podem operar sobre diferentes conjuntos de dados e aplicações, o que torna especialmente importantes mecanismos de identificação, autorização, auditoria e não repúdio.
Em outras palavras, a pergunta de segurança deixa de ser apenas quem está usando a IA, passa a ser também qual agente está agindo, em nome de quem, com quais permissões, sobre quais dados e para executar quais ações.
Quais são os principais desafios de cibersegurança dos agentes de IA?
Um dos riscos mais discutidos é o prompt injection, especialmente quando a instrução maliciosa não vem diretamente do usuário, mas está escondida em uma página, documento, e-mail ou outro conteúdo que o agente consulta.
Esse tipo de ataque pode fazer com que o agente interprete uma informação externa como uma instrução legítima.
O NIST já realizou estudos sobre agent hijacking, destacando situações em que instruções maliciosas inseridas em dados consumidos pelo agente podem induzir o sistema a realizar ações não previstas.
Na prática, imagine um agente corporativo encarregado de analisar documentos recebidos por e-mail, um arquivo aparentemente normal pode conter instruções destinadas ao modelo, como solicitar o envio de determinados dados para um endereço externo.
Se a arquitetura não separar adequadamente dados de instruções e não aplicar controles de execução, o agente poderá interpretar o conteúdo como parte de seu objetivo.
Outro problema está no uso indevido de ferramentas.
Um agente pode possuir acesso legítimo a uma API, sistema financeiro, plataforma de chamados ou ambiente de desenvolvimento, o problema aparece quando uma instrução manipulada faz com que uma ferramenta legítima seja utilizada de maneira inadequada.
A OWASP incluiu Agent Goal Hijack, Tool Misuse e Identity and Privilege Abuse, entre outros riscos, em seu Top 10 para aplicações agentivas de 2026.
O material foi desenvolvido com participação de especialistas da área e procura adaptar práticas de segurança ao comportamento autônomo desses sistemas.
Identidade e privilégios: o agente precisa ter uma identidade própria.
Um dos pontos mais importantes para a segurança de agentes de IA é tratar o agente como uma entidade que precisa ser identificada e autorizada.
Compartilhar credenciais humanas com um agente é uma prática que pode criar problemas de rastreabilidade e controle.
Se uma automação utiliza a mesma conta administrativa de um funcionário, por exemplo, torna-se mais difícil determinar quem executou determinada ação e qual política deveria ter sido aplicada.
A abordagem mais adequada envolve identidade de máquina, autenticação forte e autorização baseada na função exercida pelo agente.
O princípio do menor privilégio deve ser aplicado aqui com o mesmo rigor utilizado em contas humanas.
Um agente responsável por categorizar chamados não precisa necessariamente excluir tickets, bem como, um agente que consulta contratos não deveria possuir permissão automática para alterá-los e nem um agente que analisa indicadores não precisa ter acesso irrestrito ao banco de dados corporativo.
O NIST vem destacando justamente a necessidade de aplicar fundamentos de IAM, identidade e autorização ao ecossistema de agentes de IA.
A proposta inclui preocupações relacionadas à identificação, autorização, auditoria, não repúdio e mitigação de técnicas como prompt injection.
O princípio do menor privilégio também vale para a IA.
O menor privilégio deve determinar não apenas quais sistemas o agente pode acessar, mas também quais operações ele pode executar dentro desses sistemas.
Esse detalhe é importante porque acesso não significa necessariamente autorização para realizar qualquer ação.
Um agente pode ter permissão para consultar um registro, mas não para modificá-lo.
Pode criar um chamado, mas não encerrá-lo, pode recomendar uma alteração, mas depender de aprovação humana para aplicá-la.
Essa separação cria uma camada adicional de segurança.
Além disso, permissões temporárias podem reduzir riscos, em determinadas situações, um agente pode receber autorização para executar uma tarefa específica durante uma janela limitada, com escopo previamente definido e registro de todas as ações.
A lógica é semelhante à utilizada em ambientes modernos de Zero Trust.
Não se deve considerar o agente confiável apenas porque ele está dentro da rede corporativa ou porque foi desenvolvido internamente, cada solicitação de acesso precisa ser avaliada conforme identidade, contexto, recurso e política.
Dados corporativos também entram no perímetro de segurança.
Outro desafio está relacionado à proteção de dados. Agentes de IA podem acessar documentos, sistemas internos, bases de conhecimento, e-mails, contratos, informações de clientes e registros operacionais.
Isso transforma o controle de dados em uma questão central da arquitetura.
Antes de conectar um agente a uma fonte corporativa, a empresa precisa definir quais informações podem ser consultadas, quais podem ser utilizadas para gerar respostas e quais ações podem ser executadas a partir delas.
O controle de acesso precisa acompanhar a sensibilidade do conteúdo. Um agente que atende solicitações internas, por exemplo, não deveria acessar automaticamente informações financeiras, jurídicas ou de recursos humanos apenas porque possui uma conexão técnica com esses sistemas.
Também é necessário considerar vazamento de dados por contexto. Mesmo quando o agente não possui intenção de divulgar determinada informação, um modelo pode incorporá-la ao contexto de uma tarefa e utilizá-la em uma resposta ou ação posterior.
Por isso, segurança de dados, classificação da informação, controle de acesso e políticas de retenção precisam fazer parte do projeto de IA corporativa desde o início.
Monitoramento e auditoria são indispensáveis
Não basta impedir que um agente execute determinadas ações. A organização também precisa saber o que ele está fazendo.
Uma arquitetura de monitoramento de agentes de IA deve registrar eventos relevantes, incluindo autenticação, solicitações, ferramentas acionadas, dados consultados, decisões relevantes, respostas produzidas e ações realizadas.
Esses registros ajudam tanto na investigação de incidentes quanto na identificação de comportamentos anômalos.
Imagine que um agente normalmente consulte três sistemas para resolver chamados e, de repente, passe a acessar dezenas de recursos em poucos minutos. Um mecanismo de monitoramento pode identificar essa mudança de comportamento e gerar um alerta.
O conceito de observabilidade também precisa evoluir. Em sistemas tradicionais, métricas de infraestrutura, logs e rastreamentos são fundamentais. Em sistemas agentivos, torna-se necessário acompanhar também o fluxo de decisão, as ferramentas utilizadas e as interações entre agentes.
Essa preocupação ganha ainda mais importância em arquiteturas com múltiplos agentes. Quando diferentes agentes colaboram para concluir uma tarefa, um comportamento inesperado em um componente pode afetar toda a cadeia.
Como manter o controle sobre agentes de IA?
O controle começa antes da implantação. A organização precisa definir claramente qual problema o agente resolverá, quais sistemas serão conectados, quais dados serão utilizados e quais ações poderão ser executadas autonomamente.
Depois, deve-se construir uma matriz de permissões que relacione agentes, recursos e operações autorizadas. Essa matriz deve ser revisada periodicamente, principalmente quando o agente recebe novas ferramentas ou quando seu escopo é ampliado.
Outro ponto fundamental é separar ações de baixo risco de ações de alto impacto. Consultar uma base de conhecimento pode ser automatizado com maior autonomia. Já excluir registros, modificar configurações críticas, liberar pagamentos ou alterar controles de segurança pode exigir aprovação humana.
Esse modelo é conhecido como human-in-the-loop e continua relevante mesmo em ambientes altamente automatizados.
Além disso, agentes devem passar por testes de segurança antes de entrar em produção. Isso inclui simulações de prompt injection, abuso de ferramentas, escalada de privilégios, manipulação de contexto, acesso indevido a dados e comportamento inesperado.
A OWASP mantém uma iniciativa específica para segurança de aplicações agentivas e publicou o Top 10 de 2026 como referência para identificar e reduzir riscos desse tipo de arquitetura.
Segurança de agentes de IA exige governança contínua
Um erro comum é tratar a implantação do agente como um projeto encerrado após a configuração inicial. Na prática, governança de IA precisa acompanhar todo o ciclo de vida da tecnologia.
Modelos mudam. Ferramentas são adicionadas. APIs são atualizadas. Permissões são modificadas. Novas fontes de dados entram no ambiente. Usuários descobrem formas diferentes de interagir com o sistema.
Por isso, controles de segurança precisam ser revisados continuamente.
A própria NIST reconhece que os fundamentos tradicionais de cibersegurança continuam relevantes, mas precisam ser adaptados às características específicas dos agentes. Em uma análise publicada em maio de 2026, a instituição destacou que participantes do setor identificaram novos riscos associados aos agentes e a necessidade de adaptar práticas existentes para lidar adequadamente com esse cenário.
Na prática, isso significa combinar IAM, menor privilégio, segmentação, logs, observabilidade, gestão de vulnerabilidades, testes de segurança, políticas de dados e supervisão humana.
Agentes de IA não eliminam a responsabilidade da equipe de TI
Automatizar uma tarefa não significa transferir responsabilidade para o algoritmo.
Se um agente executa uma ação incorreta, a organização ainda precisa saber por que isso aconteceu, qual sistema permitiu a execução, quais permissões estavam disponíveis e como impedir a repetição do problema.
Essa realidade aproxima IA agentiva, ITSM e cibersegurança. Em operações de TI, por exemplo, agentes podem auxiliar na classificação de incidentes, consulta à base de conhecimento, análise de histórico, identificação de padrões e encaminhamento de solicitações.
Quando essas atividades estão integradas a uma plataforma de Help Desk e Service Desk, é possível associar automação a processos estruturados, registros, SLAs, workflows e rastreabilidade.
O objetivo não é simplesmente colocar uma IA para trabalhar sozinha. É criar um ambiente em que a automação tenha limites claros e cada ação relevante possa ser acompanhada.
O futuro da IA corporativa depende de controle
Os agentes de IA no trabalho tendem a ocupar funções cada vez mais próximas dos processos operacionais das empresas. A capacidade de planejar e executar tarefas torna essa tecnologia diferente de uma simples interface conversacional.
Consequentemente, cibersegurança para agentes de IA precisa considerar não apenas o modelo, mas todo o ecossistema ao seu redor, incluindo identidade, ferramentas, APIs, dados, usuários, integrações e processos.
A questão central não é impedir a autonomia. É estabelecer autonomia controlada.
Com identidade própria, menor privilégio, autorização granular, monitoramento, auditoria, testes de segurança, proteção de dados e aprovação humana para operações críticas, a empresa consegue reduzir a superfície de ataque sem abrir mão dos ganhos de automação.
Nesse cenário, a maturidade da infraestrutura de suporte também faz diferença. Processos claros, workflows definidos, registro histórico e governança de serviços ajudam a criar o ambiente necessário para incorporar automação e inteligência artificial de maneira rastreável.
Quer estruturar melhor a gestão de suporte e serviços de TI?
O Milldesk Help Desk e Service Desk Software ajuda empresas a centralizar chamados, organizar workflows, acompanhar SLAs, estruturar processos e obter visibilidade sobre a operação de suporte.
A solução é um ITIL Accredited Tool Vendor da PeopleCert.
Na página oficial da PeopleCert você pode verificar que a instituição registra o Milldesk, versão 2.0, como ferramenta avaliada dentro do programa de acreditação e lista práticas como Gestão de Incidentes, Gestão de Problemas, Gestão de Solicitações de Serviço, Gestão de Nível de Serviço, Gestão do Catálogo de Serviços e Monitoramento e Gestão de Eventos.
Para equipes que precisam preparar a operação para automações, IA e processos mais controlados, ter uma base estruturada de Help Desk e Service Desk ajuda a transformar tecnologia em processos rastreáveis.
Teste gratuitamente o Milldesk por 7 dias e veja como uma plataforma de gestão de serviços pode ajudar sua equipe a organizar chamados, workflows, SLAs e processos com práticas alinhadas ao ITIL.
