---
title: AIエージェントの権限がIT責任者の意図を超えて拡大するリスク
url: https://www.dataloco.com/ja/aiit
published: 2026-10-29T03:21:49+00:00
language: ja
section: セキュリティ
source: https://computersweden.se/article/4239532/smygande-autonomi-hur-ai-i-det-tysta-far-storre-inflytande-an-vad-cioer-avser.html
organizations: RSA, 1Password, Natwest Group
publisher: Dataloco
---

# AIエージェントの権限がIT責任者の意図を超えて拡大するリスク

AIエージェントが、IT責任者が当初想定していたよりも大幅に大きな権限を密かに獲得するリスクがあることが指摘されています。

自律性への移行は劇的な決定ではなく、段階的に進行する傾向があります。エージェントが限定的なタスクで有用性を示し、別のシステムが連携され、さらなるデータへのアクセス権が付与されることで権限が拡大します。最終的に、人間による承認がボトルネックとなり、それが排除されることで、以前は人間が処理していた例外的なケースまで自動的に処理されるようになります。

RSAの最高経営責任者兼製品・戦略責任者であるJim Taylor氏は、組織が特定の目的でエージェントを作成し、必要な権限を付与した後、タスクが拡大するにつれて権限が蓄積されるパターンを指摘しています。人間とは異なり、エージェントは役割が変わっても権限を返却しないため、潜在的に有害な権限の組み合わせが形成され、過剰なデータアクセスや操作が可能になる恐れがあります。

1Passwordの最高技術責任者であるNancy Wang氏は、エージェントの責任範囲を拡大することを単なる機能追加ではなく、新たな権限境界の追加として捉えるべきだと主張しています。技術的な能力があることと、それを実行する権限を与えることは別であり、モデル内部の指示だけでなく、インフラ側で不正な操作を物理的に防止する制御が必要であるとしています。また、人間が定義したポリシーに基づき、エージェントの成果物を別の検証者が照合する検証ループの導入を推奨しています。

Natwest Groupの責任あるAIおよびAI戦略責任者であるPaul Dongha氏は、AIが高性能であるほど、人間が承認を形式的なものと見なし、監視が弱まるリスクを挙げています。同社では苦情処理にエージェントを導入していますが、制御の削減は段階的な判断ではなく、リスク管理者を含むステークホルダーによる慎重な検討を経て行っています。また、複数のエージェントが連携するシステムでは、個々の動作が正当でも全体として意図しない結果を招く可能性があるため、ネットワーク全体をシステムとしてテストし、監視するためのAIコントロールタワーの開発に取り組んでいます。

権限管理については、定期的なレビューではなく、リアルタイムでの認証や、特定のタスク実行時のみ短期間の権限を付与するタスクベースの認可が有効であるとされています。また、エージェントの作成者を明確にし、責任ある個人に紐付けることで、組織的な責任所在を明確にすることが重要です。

## This story in other languages

- [Português (Brasil)](https://www.dataloco.com/pt-br/risco-de-autonomia-gradual-em-agentes-de-inteligencia-artificial-preocupa-executivos-de-tecnologia)