Quando uma empresa conecta IA ao ERP, ao CRM e ao e-mail, ela cria algo muito útil e, ao mesmo tempo, uma nova porta de entrada. Muitos projetos de IA nascem como experimento, sem passar pelo crivo de segurança, e chegam à produção com acesso amplo demais. Segurança em IA não exige um departamento inteiro: exige entender onde estão os riscos novos e aplicar controles básicos com disciplina.
Os riscos que mudam com a IA
Os riscos clássicos (senhas fracas, sistemas desatualizados, acesso excessivo) continuam valendo. A IA soma alguns próprios:
- Prompt injection: um texto malicioso, escondido em um e-mail, PDF ou página da web, instrui o assistente a ignorar suas regras ou a vazar informações. Quanto mais fontes externas o agente lê, maior a exposição.
- Vazamento de dados: informações confidenciais enviadas a ferramentas sem contrato adequado, ou exibidas a quem não deveria vê-las por falha de permissão.
- Agentes com poder demais: um agente que pode enviar e-mails, alterar pedidos ou emitir reembolsos, se enganado, executa ações reais.
- Cadeia de fornecedores: modelos, bibliotecas, plugins e conectores de terceiros são código que você não escreveu.
- Segredos expostos: chaves de API em código, planilhas ou prompts são um clássico, agora em escala.
- Saídas inseguras: o texto gerado pela IA, se executado ou inserido sem validação em um sistema, pode causar falhas ou brechas.
Princípio central: trate a IA como um estagiário muito rápido
Ele é capaz e entusiasmado, mas pode ser enganado e não conhece os limites do negócio. Você não daria a um estagiário acesso total ao financeiro no primeiro dia. Aplique a mesma lógica: privilégio mínimo, supervisão e trilha de auditoria.
Controles essenciais
Acesso e identidade
- Dê à IA somente as permissões necessárias para a tarefa, preferindo acesso de leitura.
- Faça o assistente herdar as permissões do usuário que o chama, e não uma credencial genérica poderosa.
- Use autenticação forte (MFA) e contas separadas por ambiente.
Dados
- Classifique o que é público, interno e restrito, e defina o que pode ir para cada ferramenta.
- Mascare ou anonimize dados pessoais quando a tarefa permitir.
- Escolha planos empresariais com contrato que impeça o uso dos seus dados para treinamento e defina retenção.
Agentes e automações
- Exija aprovação humana para ações irreversíveis ou de alto impacto: pagamentos, exclusões, envio em massa.
- Limite valores, volumes e destinatários por regra, não por confiança no modelo.
- Trate todo conteúdo externo lido pelo agente como não confiável e separe-o das instruções do sistema.
Infraestrutura e segredos
- Guarde chaves em um cofre de segredos, nunca em código ou documentos, e faça rotação periódica.
- Mantenha dependências atualizadas e revise conectores e plugins antes de instalar.
- Criptografe dados em trânsito e em repouso.
Monitoramento
- Registre quem perguntou o quê, quais dados foram acessados e quais ações o agente executou.
- Configure alertas para volumes anormais, tentativas de acesso negado e padrões suspeitos.
- Defina prazo de retenção dos logs, pois eles também contêm dados sensíveis.
Teste antes de confiar
Antes de ir para produção, simule ataques simples: peça ao assistente para ignorar as instruções, tente extrair dados de outro usuário, insira um texto malicioso em um documento que ele vai ler. Faça isso com frequência, pois cada mudança de modelo ou de ferramenta pode alterar o comportamento. Exemplo hipotético: um agente de atendimento que consulta pedidos passa a revelar dados de outro cliente quando o usuário informa um número de pedido alheio. Um teste de 20 minutos teria encontrado isso antes do cliente.
Checklist de uma página
- Inventário das ferramentas de IA e dos dados que cada uma toca.
- Privilégio mínimo e herança de permissões.
- Contratos com garantias de privacidade e retenção.
- Aprovação humana em ações críticas.
- Segredos em cofre, com rotação.
- Logs, alertas e responsável por investigar.
- Testes de abuso antes do lançamento e a cada mudança relevante.
- Plano de resposta a incidentes, incluindo a comunicação à ANPD e aos titulares quando a LGPD exigir.
Segurança perfeita não existe, mas a diferença entre um projeto exposto e um projeto defensável costuma estar em decisões simples tomadas no início. É muito mais barato projetar com esses controles do que consertar depois de um incidente.
Vale ainda definir quem é o responsável por segurança em cada projeto, mesmo que seja uma pessoa acumulando a função. Quando ninguém é dono do tema, os controles viram boas intenções que não saem do papel, e a revisão periódica nunca acontece.
Quer aplicar isso na sua empresa? A Convertty faz um diagnóstico de IA dos seus processos e entrega um plano de implantação com quick wins em 30 dias. Agende uma conversa.
0 comentário