Künstliche Intelligenz verändert die Sicherheitspraxis in Open-Source-Projekten

caution signage — Andreas Schantl / Unsplash

Künstliche Intelligenz-Agenten können öffentlich verfügbare Hinweise auf Software-Schwachstellen in funktionierende Ausnutzungsmethoden verwandeln. Diese Entwicklung reduziert die Wirksamkeit traditioneller Embargos in Open-Source-Projekten. Der Professor für Informatik an der Universität Cambridge und Kernentwickler des OCaml-Compilers, Anil Madhavapeddy, argumentiert, dass die Zeit zwischen der Offenlegung einer Schwachstelle und ihrer Ausnutzung schrumpft. Dies erfordert schnellere Prozesse für Patches und Veröffentlichungen.

Madhavapeddy beschreibt seine Erfahrung bei der Behebung einer Pfadtraversierungs-Schwachstelle. Der Patch selbst war unkompliziert. Unter normalen Umständen hätte das Sicherheitsverfahren vorsahen, dass das Problem privat behoben, betroffene Nutzer informiert und anschließend ein öffentliches Bulletin herausgegeben wird. In diesem Fall bemerkte er jedoch Proben in den Logs seines aktiven Webservers, die exakt das Muster des Fehlers aufwiesen. Dies geschah nur wenige Minuten, nachdem er den Pull Request zur Behebung des Problems geöffnet hatte.

Traditionelle Sicherheitsprozesse stützen sich auf das Embargo von Schwachstellen. Die Annahme lautet, dass die Geheimhaltung technischer Details die Nutzer schützt. Künstliche Intelligenz-Agenten können jedoch unabhängig Schwachstellen aus begrenzten Hinweisen erforschen. In einer kürzlich durchgeführten Studie nutzte ein GPT-4-Agent 87 Prozent der Schwachstellen in einem Benchmark mit 15 Schwachstellen aus, wenn ihm CVE-Beschreibungen zur Verfügung standen. Ohne diese Beschreibungen lag die Quote bei 7 Prozent. Madhavapeddy argumentiert, dass die Ökonomie von Fehlern nun gegen die Open-Source-Wartenden spricht. Schon die Suche einer einzelnen Person nach der Fehlerklasse kann den Agenten einer anderen Person alarmieren und diesen zu Ausnutzungscode führen.

Adrian Mouat, zuständig für Entwicklerbeziehungen bei Chainguard, sagt, dass dies Open-Source-Wartende in eine schwierige Lage bringt. Das bloße Öffnen eines Pull Requests zur Behebung eines Problems stellt das Projekt und die Nutzer vor Probleme. Angreifer können Ausnutzungsmethoden erstellen und nutzen, noch bevor ein aktualisiertes Release verfügbar ist. Nutzer sind gefährdet und können nichts dagegen tun. Dies könnte Projekte dazu zwingen, Releases vor dem zugehörigen Quellcode zu veröffentlichen. Das würde jedoch die Grundlagen von Open Source verletzen.

Madhavapeddy schlägt drei mögliche Ansätze vor, um die Auswirkungen zu mildern, bevor vollständige Patches verfügbar sind. Dazu gehören private Diskussionen über Schwachstellen, schnellere kontinuierliche Veröffentlichungen und schnelle Minderungen auf Protokollebene. Nick Craig-Wood, Schöpfer und Wartender des Open-Source-Projekts rclone, hebt in einem populären Hacker-News-Thread die wachsende Anzahl von CVEs hervor. In den ersten zehn Jahren des rclone-Projekts erhielt er etwa 20 Sicherheitsmeldungen über GitHub. Im letzten Monat musste er sich mit über 40 befassen. Das hat einen großen Teil seiner Zeit in Anspruch genommen, selbst unter Verwendung von KI-Tools zur Triage und zur Erstellung von Korrekturen zur Überprüfung.

Während private Schwachstellenkoordination und schnellere Veröffentlichungszyklen innerhalb bestehender Workflows implementiert werden können, erfordern Protokolle mit Widerruf und Fähigkeitskontrollen architektonische Änderungen. Diese sollen es ermöglichen, verwundbare Operationen remote zu deaktivieren oder einzuschränken. Madhavapeddy schlägt Mechanismen wie kurzlebige Anmeldeinformationen, widerrufbare Fähigkeiten und Protokollkontrollen vor. Diese können aktiviert werden, ohne dass jeder Client sofort aktualisiert werden muss. QEMU verkürzt ebenfalls Schwachstellen-Embargos, um die zunehmend schnelle und automatisierte Entdeckung zu berücksichtigen.