Anthropic aktualisiert Nutzungsrichtlinie: mehr Klarheit bei Überwachung und autonomen Aktionen

Was Anthropic geändert hat

Anthropic beschreibt die Aktualisierung als jährliche Überarbeitung. Viele Änderungen sollen bestehende Regeln verständlicher und konkreter machen, weil Claude für längere und selbstständigere Arbeitsabläufe eingesetzt werden kann. Die neue Fassung bündelt unter anderem Regeln zu Täuschungskampagnen und künstlicher Aktivität in einem eigenen Abschnitt.

Die Richtlinie soll am 12. November 2026 in Kraft treten. Der Termin stammt aus der Anbieterankündigung und ist nicht mit dem Inkrafttreten eines Gesetzes oder einer allgemein verbindlichen Branchenregel gleichzusetzen.

Täuschung, künstliche Aktivität und Wahlen

Anthropic fasst Einschränkungen für Aktivitäten zusammen, die verschleiern, wer hinter einer Nachricht steht, oder Inhalte über gefälschte Accounts und Beiträge künstlich verstärken. Die Wahlregeln werden stärker auf das Täuschen von Wählern, die Störung demokratischer Prozesse und die Unterdrückung von Beteiligung ausgerichtet.

Anthropic weist zugleich darauf hin, dass legitime zivile Arbeit nicht pauschal ausgeschlossen werden soll. Die konkrete Zulässigkeit hängt vom Anwendungsfall, den verwendeten Daten und der tatsächlichen Ausführung ab.

Überwachung und Hochrisiko-Anwendungen

Die überarbeitete Fassung beschreibt Überwachung präziser. Anthropic nennt unter anderem das Nachverfolgen von Personen ohne deren Zustimmung sowie die Nutzung von Claude, um zu entscheiden oder zu empfehlen, wer in Strafverfolgung oder Justiz untersucht, festgenommen oder angeklagt werden soll. Auch der Bau oder die Verbesserung von Überwachungswerkzeugen wird eingeschränkt.

Für Anwendungen, die Gesundheit, rechtliche Rechte, Finanzen, Erwerbschancen oder den Zugang zu wichtigen Leistungen beeinflussen können, verlangt Anthropic weiterhin eine qualifizierte Person in der Entscheidungsschleife. Die betroffene Person soll außerdem darüber informiert werden, dass KI eingesetzt wurde. Das sind Anforderungen der Anthropic-Richtlinie; ob zusätzlich gesetzliche Pflichten gelten, muss separat geprüft werden.

Autonome physische Aktionen

Neu beziehungsweise deutlicher beschrieben sind Anforderungen für Modelle, die mit Hardware verbunden sind und selbstständig physische Aktionen auslösen können. Anthropic nennt eine qualifizierte Aufsicht, die das Gerät beobachten und stoppen kann. Das System soll außerdem in einen sicheren Zustand wechseln können, wenn die Verbindung zu Claude abbricht.

Für Unternehmen bedeutet das: Ein Agent darf nicht allein deshalb als sicher gelten, weil der Anbieter eine Richtlinie veröffentlicht. Die technische Architektur muss verhindern, dass ein Modell die vorgesehenen Grenzen durch Werkzeugzugriff, fehlerhafte Daten oder eine unterbrochene Verbindung umgeht.

Was Unternehmen jetzt prüfen sollten

• Anwendungsfall: Fällt der geplante Prozess unter Hochrisiko, Überwachung, demokratische Prozesse oder autonome physische Aktionen?
• Menschliche Kontrolle: Hat eine qualifizierte Person tatsächlich die Möglichkeit, Empfehlungen zu ändern oder Aktionen zu stoppen?
• Transparenz: Wird die betroffene Person verständlich über den KI-Einsatz informiert, soweit dies für den Anwendungsfall erforderlich ist?
• Technische Grenzen: Sind Werkzeuge, Rollen, Netzwerkzugriff und Not-Aus unabhängig vom Modell begrenzt?
• Vertraglicher Stand: Welche Fassung der Nutzungsbedingungen gilt für das konkrete Produkt, den Tarif und die Region?

Einordnung von Project Atlas

Die Aktualisierung ist für Unternehmen mit autonomen Agenten, Überwachungsfunktionen oder sensiblen Entscheidungen relevant. Sie sollte aber nicht als pauschaler Nachweis für rechtliche Konformität gelesen werden. Anbieterregeln, EU-Recht, Datenschutz, Arbeitsrecht und interne Freigaben sind unterschiedliche Prüfebenen.

Anthropic selbst erklärt, dass viele Punkte bereits der bisherigen Durchsetzungspraxis entsprachen und nun expliziter formuliert werden. Der wichtigste praktische Schritt ist deshalb eine Zuordnung des eigenen Anwendungsfalls zu den konkreten Regeln – nicht die Annahme, dass jede KI-Nutzung mit einem allgemeinen Warnhinweis ausreichend abgesichert ist.