Parar um agente de inteligência artificial em segurança é suspender o que ele faz para fora da empresa, as escritas nos sistemas, os emails e os robôs, sem perder os casos que estavam a meio. Um bom mecanismo de paragem regista quem parou e porquê, deixa as pessoas continuar a decidir e, ao retomar, faz avançar os casos pela ordem em que pararam.
Os agentes de IA já tratam encomendas, faturas de fornecedor, reclamações ou marcações em muitas empresas. Quanto mais trabalho fazem, mais importa saber responder a uma pergunta simples. Se algo correr mal, como se trava tudo sem criar um problema maior? Este artigo explica o que significa parar um agente, quando faz sentido, como se faz e o que a empresa deve decidir antes de precisar.
O que significa parar um agente de IA?
Um agente de IA é um programa que lê o que chega, por exemplo um email ou um documento, propõe o que fazer e executa ações noutros sistemas, como criar uma encomenda no ERP ou responder a um cliente. Parar um agente não é desligar um servidor. É impedir que ele produza efeitos fora da plataforma, mantendo o estado de cada caso para que o trabalho possa continuar depois.
Há três níveis de paragem, do mais estreito ao mais largo.
- Suspender um caso. O caso fica à espera de uma pessoa, por exemplo porque passou um limite de valor que pede aprovação.
- Pausar um processo. Todos os casos desse processo param, e os outros processos continuam.
- Interromper tudo. Param todas as ações externas e todas as entradas de uma só vez.
A distinção importa porque cada situação pede um nível diferente. Um fornecedor com faturas estranhas justifica parar um processo. Uma falha num sistema ligado justifica parar tudo.
Quando faz sentido parar os agentes?
A maior parte do tempo, a supervisão faz-se caso a caso, com as pessoas a validar o que não é claro. A paragem é para as situações em que o problema não está num caso, mas no conjunto. Alguns exemplos.
- Um sistema ligado, como o ERP ou o portal de um banco, está em manutenção ou a devolver erros.
- Uma regra de negócio mudou e os processos ainda não foram atualizados.
- A equipa nota um padrão estranho, como muitas encomendas do mesmo cliente num curto espaço de tempo.
- Há suspeita de que uma caixa de correio recebeu mensagens fraudulentas.
- A empresa vai fazer uma migração ou um fecho de contas e quer congelar as escritas.
Também a regulação aponta neste sentido. O Regulamento Europeu da Inteligência Artificial, no artigo 14.º, prevê que nos sistemas de risco elevado as pessoas possam intervir e interromper o sistema através de um botão de paragem ou de um procedimento semelhante, que o leve a parar num estado seguro. Mesmo fora desses casos, é uma boa referência para qualquer empresa que ponha agentes a trabalhar.
Como se para tudo num só comando?
Uma paragem geral tem de ser rápida e completa. Se for preciso desligar agente a agente, ou lembrar quais são os robôs ativos, alguém vai esquecer-se de um. Por isso, a boa prática é um único comando que suspende ao mesmo tempo as escritas nos sistemas ligados, as comunicações para fora, os robôs e a entrada de novos casos.
No EngiAIFlow, quem administra a instalação pode interromper, com um único comando, todas as ações externas da plataforma, as escritas, as comunicações e os robôs, e todas as entradas. O motivo é obrigatório e fica registado na auditoria, com autor e data. Assim, quando a atividade é retomada, fica claro porque parou e quem decidiu.
Dois cuidados tornam a paragem segura.
- Parar antes do efeito externo. Os casos devem ficar em espera antes do passo que escreve num sistema ou envia uma mensagem, e não a meio dele.
- Não perder o que estava a ser feito. Cada caso mantém o ponto onde estava, com os dados já lidos e as decisões já tomadas.
Como se pausa só um processo?
Nem todos os problemas pedem uma paragem geral. Imagine uma empresa que automatizou as encomendas, as faturas de fornecedor e as marcações de entregas. Se o fornecedor principal mudar o formato das faturas, faz sentido pausar só o processo das faturas enquanto se acerta a regra, e deixar as encomendas e as marcações seguir.
No EngiAIFlow, pausar um processo suspende também os casos em curso desse processo, e os restantes continuam. É a forma de conter um problema localizado sem parar a operação inteira.
Há ainda um nível mais fino, que funciona sem ninguém carregar num botão. Limites como «acima deste valor, pedir aprovação» suspendem o caso antes do passo, até uma pessoa aprovar. Este tipo de limite evita muitas paragens, porque os casos fora do normal já chegam à equipa antes de produzirem efeito.
Como se retoma sem duplicar trabalho?
Retomar é a parte que mais se esquece e a que mais erros pode causar. Os dois riscos principais são perder casos e repetir ações, como criar duas vezes a mesma encomenda.
Um mecanismo bem desenhado trata os dois.
- Nada se perde. No EngiAIFlow, os casos ficam em espera antes do passo com efeito externo, as pessoas continuam a consultar e a decidir durante a paragem e, ao retomar a atividade, os casos prosseguem pela ordem em que pararam.
- Nada se repete sozinho. Uma escrita num sistema ligado nunca se repete automaticamente. Se o processo for interrompido, uma pessoa decide se a escrita já foi efetuada.
Antes de retomar, vale a pena confirmar que a causa da paragem foi resolvida, rever os casos que ficaram à espera há mais tempo e avisar as equipas que dependem desses processos.
O que a empresa deve decidir antes de precisar?
A paragem só funciona se estiver preparada antes da urgência. Estas são as decisões que convém tomar com calma.
- Quem pode parar. Definir as pessoas com permissão para interromper tudo e para pausar cada processo.
- Em que situações. Escrever os critérios que justificam cada nível de paragem, para que a decisão não dependa de quem está de serviço.
- Que limites aplicar. Definir os valores e as condições que suspendem um caso e pedem aprovação.
- Como comunicar. Combinar quem avisa as equipas, os clientes ou os fornecedores afetados.
- Como retomar. Ter uma pequena lista de verificação para o regresso à atividade.
Um exercício útil é simular uma paragem num dia calmo. Interrompe-se a atividade, confirma-se que os casos ficam em espera e retoma-se, para que todos saibam o que fazer no dia em que for a sério. Para saber mais sobre o equilíbrio entre o que segue sozinho e o que as pessoas validam, leia também como decidir o que a automação faz sozinha e o que as pessoas validam.
Perguntas frequentes
O que é parar um agente de IA?
É suspender as ações que o agente faz fora da plataforma, como escritas em sistemas, emails e robôs, mantendo o estado de cada caso para que o trabalho possa continuar depois.
Parar os agentes faz perder os casos que estavam a meio?
Não deve. No EngiAIFlow, os casos ficam em espera antes do passo com efeito externo e, ao retomar a atividade, prosseguem pela ordem em que pararam.
Quem pode parar os agentes no EngiAIFlow?
Quem administra a instalação pode interromper todas as ações externas e todas as entradas com um único comando. O motivo é obrigatório e fica registado na auditoria, com autor e data.
É possível parar só um processo?
Sim. Pausar um processo suspende também os casos em curso desse processo, e os restantes processos continuam.
Ao retomar, a mesma encomenda pode ser criada duas vezes?
No EngiAIFlow, uma escrita num sistema ligado nunca se repete automaticamente. Se o processo for interrompido, uma pessoa decide se a escrita já foi efetuada.