---
title: Risco de autonomia gradual em agentes de inteligência artificial preocupa executivos de tecnologia
url: https://www.dataloco.com/pt-br/risco-de-autonomia-gradual-em-agentes-de-inteligencia-artificial-preocupa-executivos-de-tecnologia
published: 2026-10-28T20:25:24+00:00
language: pt-br
section: Segurança
source: https://computersweden.se/article/4239532/smygande-autonomi-hur-ai-i-det-tysta-far-storre-inflytande-an-vad-cioer-avser.html
organizations: RSA, 1Password, Natwest Group
publisher: Dataloco
---

# Risco de autonomia gradual em agentes de inteligência artificial preocupa executivos de tecnologia

Executivos de tecnologia alertam para o risco de agentes de inteligência artificial adquirirem poderes superiores aos planejados originalmente por diretores de tecnologia. Esse processo ocorre de forma gradual, começando com tarefas limitadas que, ao provarem utilidade, recebem novas permissões e acesso a mais dados, reduzindo a necessidade de aprovação humana até que a autonomia se torne excessiva.

Jim Taylor, da RSA, observa que as organizações frequentemente expandem as permissões de um agente conforme suas tarefas crescem, criando combinações potencialmente prejudiciais de acesso a dados. Diferente de funcionários humanos, esses agentes não possuem um ciclo de vida natural e raramente devolvem as permissões concedidas.

Nancy Wang, da 1Password, afirma que cada expansão de responsabilidade de um agente deve ser vista como a criação de um novo limite de permissão. Ela defende a implementação de ciclos verificados, onde um verificador separado compara as ações do agente com políticas definidas por humanos, evitando que o agente revise seu próprio trabalho.

No Natwest Group, Paul Dongha nota que o sucesso de um sistema de inteligência artificial pode levar a organização a remover controles humanos por considerar a aprovação uma mera formalidade. Para mitigar isso, o banco utiliza a redução de controle apenas após decisões deliberadas envolvendo gestores de risco e mantém a supervisão contínua.

Especialistas sugerem que as barreiras de segurança devem estar fora do modelo de inteligência artificial, integradas à infraestrutura da empresa. Taylor propõe a certificação contínua de identidades dinâmicas em vez de revisões periódicas, enquanto Wang defende a autorização baseada em tarefas, concedendo permissões temporárias apenas quando necessário.

Quanto à responsabilidade, Taylor argumenta que cada ação de um agente deve ser vinculada a uma pessoa responsável. Dongha acrescenta que, em processos de negócios, o gestor da área deve permanecer responsável pelos resultados, enquanto a tecnologia fornece a infraestrutura de controle.

O desafio aumenta com sistemas de múltiplos agentes que colaboram entre si. O Natwest Group desenvolve uma torre de controle de inteligência artificial para monitorar as interações e mensagens entre esses agentes, visando resolver a falta de rastreabilidade em redes de agentes temporários.