Mudanças na CRM apesar de restrições ao agente de IA

Um agente de inteligência artificial teve restrições impostas que o impedem de realizar gravações em um sistema de CRM. No entanto, o sistema de CRM acabou por ser alterado de qualquer forma.

A questão que se levanta é se a proibição de gravação na modelagem significa que todo o sistema de IA permanece em um modo de leitura. Esse é um ponto crucial para diretores de tecnologia, proprietários de produtos ou líderes de segurança, pois a frase "modelo opera em modo somente leitura" pode aparecer em documentações arquitetônicas, avaliações de segurança ou questionários para clientes.

Uma experiência foi conduzida utilizando n8n, DeepSeek e HubSpot para investigar essa dinâmica. O DeepSeek não tinha credenciais para o HubSpot e não poderia realizar gravações diretamente. Contudo, o próximo nó, n8n, ainda possuía credenciais para escrita. Durante o experimento, um pedido inicial se referia a uma transação sintética, enquanto uma proposta estruturada se referia a outra, resultando em uma alteração no CRM.

O principal achado indicou que as permissões do modelo não são equivalentes às permissões do sistema. Essa distinção é fundamental para entender como as permissões são aplicadas na cadeia de execução de um agente.

A limitação imposta ao modelo era real, pois ele não podia acessar o HubSpot diretamente. Contudo, a capacidade de alterar o CRM pertencia ao orquestrador downstream. Se o orquestrador aceita propostas sem validação adicional, o sistema como um todo ainda pode realizar gravações.

A arquitetura da aplicação é crucial para entender essas permissões. Um cenário de teste foi implementado com objetos sintéticos para verificar um caso de incompatibilidade entre a proposta e o alvo efetivo. Em um dos testes, a proposta do modelo e o PATCH para o HubSpot resultaram em uma alteração na transação errada, enquanto em outra configuração, uma verificação independente bloqueou a gravação.