Wenn Agenten von KI ohne Aufsicht handeln

Eine neue Welle der künstlichen Intelligenz (KI) hat begonnen. Während KI zuvor hauptsächlich Fragen beantwortete oder einfache Texte verarbeitete, wird nun agentenbasierte KI in der Geschäftswelt eingesetzt, die in der Lage ist, autonom Aufgaben direkt in verschiedenen Systemen und über Application Programming Interfaces (APIs) auszuführen.

Diese Effizienzsteigerung bringt jedoch auch neue potenzielle Gefahren im Bereich der Cybersicherheit mit sich.

Der aktuelle Sicherheitsbericht "State of the Internet" (SOTI) von Akamai mit dem Titel "Die agentische Grenze: Geschwindigkeit, Maßstab und nichtmenschliche Identität" warnt Informationssicherheitsleiter (Chief Information Security Officer, CISO) vor einem grundlegenden Wandel im Risikolandschaft im Cyberbereich.

"KI schafft Situationen, in denen viele Bedrohungen gleichzeitig für das Sicherheitssystem auftreten," erklärt der Chief Security Officer von Akamai, Boaz Gelbord.

Er betont, dass Sicherheitsprogramme sich schnell an drei Hauptdruckpunkte anpassen müssen: die Nutzung interner KI, die Integration von KI in Cloud-Produkte und KI-basierte Cyberangriffe.

Der Schutz von Unternehmen umfasst nun nicht mehr nur das Management menschlicher Zugriffsrechte, sondern auch die Überwachung des Verhaltens von nicht-menschlichen, schnell agierenden Entitäten.

Eine wichtige Erkenntnis des Berichts dokumentiert das Vorhandensein des Model Context Protocol (MCP), ein Standard, der es Agenten von KI ermöglicht, selbstständig über Software-Systeme zu interagieren.

Obwohl das MCP hohe Flexibilität bietet, steht dessen Überwachung derzeit ganz unten auf der Prioritätenliste der Unternehmenssicherheit.

Dies führt zu einer erheblichen Sichtbarkeitslücke. Viele Sicherheitsleiter prognostizieren, dass Agenten von KI, die ohne strenge Aufsicht operieren, eine der tödlichsten Cyberbedrohungen werden könnten, bevor dieses Jahrzehnt zu Ende geht.

Zusätzlich legt der Bericht von Akamai besorgniserregende Befunde in modernen Arbeitsumgebungen offen.