Anthropic führt neue Nutzungsrichtlinien für Claude ein, die Missbrauch und politische Manipulation verbieten

green and black checkered textile — Laura Ockel / Unsplash

Das Unternehmen Anthropic hat seine Richtlinien für die Nutzung des KI-Modells Claude aktualisiert, um wiederholten und grundlosen Missbrauch durch Nutzer zu untersagen. Diese Änderungen betreffen die Akzeptable-Nutzungsrichtlinie, die erstmals vor mehr als einem Jahr eingeführt wurde. Das Ziel der neuen Bestimmungen ist es, den falschen Umgang mit der Technologie einzuschränken und klare Grenzen für das Verhalten der Benutzer zu setzen. Die Regeln gelten für alle Interaktionen mit dem System und sollen sicherstellen, dass die KI nicht für schädliche Zwecke missbraucht wird.

Laut den neuen Vorschriften gilt es als Verstoß gegen die Nutzungsbedingungen, wenn ein Nutzer ohne triftigen Grund wiederholt schlecht mit Claude umgeht. Es bleibt jedoch erlaubt, Unmut über Antworten zu äußern, sich mit den Aussagen der KI nicht einverstanden zu erklären, Geschichten im dunklen Stil zu verfassen oder Fragen zu stellen, um die Fähigkeiten des Systems zu testen. Diese Aktivitäten werden nicht als Missbrauch gewertet und sind weiterhin zulässig. Die Unterscheidung zwischen legitimer Kritik und grundlosem Fehlverhalten ist dabei entscheidend für die Anwendung der neuen Regeln.

Im vergangenen August hatte Anthropic bereits eine Funktion eingeführt, die es Claude ermöglicht, Gespräche mit Nutzern zu beenden, die sich wiederholt falsch verhalten. Diese Option ist sowohl auf der Plattform Claude.ai als auch in Claude Code verfügbar. Derzeit ist das Beenden der Konversation die primäre Maßnahme gegen solche Verstöße. Ob bei wiederholten Regelbrüchen das Konto eines Nutzers dauerhaft gesperrt wird, hat das Unternehmen jedoch nicht mitgeteilt. Die langfristigen Konsequenzen für schwerwiegende oder anhaltende Verstöße bleiben damit unklar.

Zusätzlich zu den Regeln zum Umgang mit der KI hat Anthropic die Bestimmungen bezüglich Wahlen und Waffen verschärft. Es ist nun verboten, Claude zur Erstellung gefälschter Konten für politische Werbung zu verwenden oder Inhalte vorsätzlich zu verbreiten, um politische Kampagnen zu beeinflussen. Auch das Irreführen von Wählern oder die Verbreitung falscher Informationen über Abstimmungen verstößt gegen die Richtlinien. Die Nutzung der Technologie zur Unterstützung politischer Manipulation wird somit explizit untersagt.

Im Bereich der Waffenentwicklung gelten ebenfalls strenge Beschränkungen. Claude darf nicht eingesetzt werden, um Technologien für Waffen zu entwickeln, Drohnen mit Waffensystemen auszustatten oder autonome Maschinen für waffenbezogene Aktivitäten zu steuern. Diese Verbote sollen verhindern, dass die KI zur Schaffung gefährlicher militärischer Anwendungen genutzt wird. Die Verantwortung für die Einhaltung dieser Vorschriften liegt bei den Nutzern der Plattform.

Auch im Bereich der Überwachung und Robotik hat Anthropic klare Regeln festgelegt. Die Nutzung von Claude zur Überwachung von Personen ohne deren Einwilligung ist verboten. Ebenso darf das System nicht verwendet werden, um aus historischen Daten Aktivitäten von Personen zu verfolgen oder Überwachungssysteme zu erstellen. Wenn Claude mit Robotern oder Maschinen verbunden wird, die Verletzungen verursachen könnten, muss eine geschulte Person die Systeme kontinuierlich überwachen. Zudem muss die Möglichkeit bestehen, die Maschine im Notfall sofort zu stoppen. Diese Maßnahmen sollen die Sicherheit bei der Integration von KI in physische Systeme gewährleisten.