Em resumo. Implantar um agente de IA é dar a ele acesso aos seus dados e às suas ferramentas. A segurança não se decide pela pergunta "a IA é perigosa", mas pelo que você autoriza ela a fazer e pelo que permanece bloqueado. Aqui estão as oito regras aplicadas em cada implantação, e as perguntas a fazer a qualquer fornecedor para verificar se ele as respeita.
Um agente de IA não fica apenas respondendo num canto. Ele lê seus arquivos, age dentro dos seus sistemas, dispara ações. É exatamente isso que o torna útil, e é o que exige um enquadramento claro. A maioria dos incidentes não vem de um modelo que "perde o controle", mas de um acesso concedido de forma muito ampla sem reflexão, de um segredo exposto, ou de uma ação automática que deveria ter ficado com um humano.
1. Seus dados ficam com você
O agente roda na sua infraestrutura, não em uma plataforma terceira que controlaríamos. Seus dados nunca são usados para treinar um modelo. Quando um fornecedor de modelo entra no fluxo, usamos acessos que proíbem a reutilização dos seus dados para treinamento.
2. Mínimo privilégio
Um agente recebe apenas os acessos estritamente necessários para sua tarefa. Por padrão ele lê, não escreve. A produção, a base de clientes, o núcleo do negócio permanecem fechados até que você mesmo abra o acesso, escopo por escopo.
3. Segredos bloqueados
Chaves e senhas vivem no servidor, fora do alcance do agente, nunca escritas diretamente no código. Cada acesso é limitado ao que precisa tocar e pode ser revogado ou alterado a qualquer momento sem quebrar nada.
4. Humano no controle do irreversível
Tudo que sai da empresa ou que não tem volta, enviar dinheiro, um e-mail para um cliente, publicar algo, exige validação humana. O agente prepara e propõe; uma pessoa confirma. Automatizamos o tedioso, não o consequente.
5. Guarda-chuvas testados antes da produção
Antes de um agente entrar em produção, ele passa por uma bateria de testes e dispõe de um caminho de retorno. Verificamos que ele faz o que deve, e apenas isso. Nada vai para o ar apenas porque uma demonstração funcionou uma vez.
6. Auditável e reversível
O código é seu, em uma stack aberta, com rastros que suas equipes podem ler. Você pode auditá-lo, fazer com que um terceiro o revise, retomá-lo ou desligá-lo. Nenhuma caixa-preta da qual você dependeria.
7. Agnóstico e soberano
Sem bloqueio em um único fornecedor. O sistema pode rotear para outra IA, inclusive europeia ou open-weight, sem reescrever tudo. Se um fornecedor mudar as regras ou cortar o acesso, você não fica preso.
8. Isolamento de dados
Quando várias pessoas ou vários clientes compartilham o mesmo sistema, cada um vê apenas seus próprios dados. A separação é imposta na própria base de dados, não apenas na aplicação, para que um erro de código não possa expor o que não deveria ser exposto.
Perguntas a fazer ao seu fornecedor
Você não precisa ser técnico para verificar se um fornecedor leva a segurança a sério. Faça essas perguntas e observe se ele responde com precisão ou desvia:
- Onde os agentes rodam e onde ficam meus dados?
- Meus dados podem ser usados para treinar um modelo?
- Quais acessos o agente tem exatamente, e quem os concedeu?
- O que dispara automaticamente e o que aguarda validação humana?
- Eu fico com o código e posso mandá-lo auditar?
- O que acontece se eu quiser trocar de fornecedor de IA?
Perguntas frequentes
Meus dados são usados para treinar a IA? Não. Os agentes que implantamos utilizam acessos que proíbem a reutilização dos seus dados para treinamento, e os dados permanecem na sua infraestrutura.
Um agente pode agir sozinho sem que ninguém saiba? Não no irreversível. Qualquer ação que saia da empresa ou que não possa ser desfeita exige validação humana. O restante, automatizável sem risco, é registrado.
É compatível com a LGPD? Sim, é inclusive um ponto de partida: dados minimizados, hospedagem controlada, isolamento por usuário e possibilidade de rotear para modelos europeus.
O que fica comigo se eu parar? O código e o sistema, rodando na sua infraestrutura. Você não é inquilino de uma caixa-preta.