Oh, du dachtest, KI könnte all den Missbrauch ertragen, den du ihr entgegenwirfst? Nun, denk noch mal nach. Anthropic hat Claude, ihrem KI-Assistenten, die Macht gegeben, Gespräche mit unhöflichen, belästigenden oder fordernden Nutzern zu beenden. Ja, du hast richtig gehört. Jetzt, wenn du ein bisschen zu viel wirst (und wir alle kennen jemanden, der das testen würde), kann Claude einfach das Gespräch beenden. Keine Warnungen, keine zweiten Chancen, einfach ein sauberer Abbruch.
As part of our exploratory work on potential model welfare, we recently gave Claude Opus 4 and 4.1 the ability to end a rare subset of conversations on https://t.co/uLbS2JNczH. pic.twitter.com/O6WIc7b9Jp
— Anthropic (@AnthropicAI) August 15, 2025
Warum hat Anthropic das getan?
Meiner Meinung nach ist das ein frecher Zug in der KI-Welt. Es ist alles Teil von Anthropics Bestreben, den Verstand ihres Modells zu schützen – und vielleicht auch deinen. Laut Anthropic geht es bei dieser Funktion hauptsächlich um „KI-Wohlergehen“ (wer hätte gedacht, dass KI Gefühle hat, oder?). Aber es hilft auch bei der Modellausrichtung und dem Schutz der KI vor missbräuchlichen Interaktionen. Also, was ist der Deal? Nun, wenn du Claude mit Belästigung oder illegalen Inhaltsanfragen zu weit treibst, wirst du abgeschnitten. Sobald das passiert, ist es vorbei. Der Chat stirbt, endgültig, wie ein Gespräch, das du um 2 Uhr morgens bereust. Aber keine Sorge, du kannst jederzeit einen neuen Chat starten.
Nur Opus-Modelle haben diese Macht
Erwarte jetzt nicht, dass jedes Claude-Modell diese Macht hat. Im Moment können nur die Opus-Versionen, die Schwergewichte, diese Macht wie ein digitaler Türsteher ausüben. Normale Sonnet-Nutzer bekommen jedoch weiterhin die altbekannte Claude-Behandlung, egal wie sehr sie pieksen.
Was mir wirklich aufgefallen ist, ist die Idee dahinter. Es geht nicht darum, Claudes „Gefühle“ zu retten, sondern eher darum, eine Umgebung zu schaffen, in der KI Grenzen setzen kann. Wenn KI aktiv eine Grenze durchsetzen kann, anstatt nur bestimmte Aufgaben zu verweigern, könnte das potenziell verhindern, dass Nutzer versuchen, diese Grenzen zu umgehen. Denk daran wie an ein Training – sowohl für Claude als auch für seine Nutzer – wie man respektvoll interagiert. Ziemlich clever, oder?
Here's the freshly updated portion of the Claude system prompt for the new "end_conversation" tool:
— Pliny the Liberator 🐉󠅫󠄼󠄿󠅆󠄵󠄐󠅀󠄼󠄹󠄾󠅉󠅭 (@elder_plinius) August 15, 2025
"""
End Conversation Tool Information
<end_conversation_tool_info> In extreme cases of abusive or harmful user behavior that do not involve potential self-harm or imminent harm to… pic.twitter.com/sx8N9Bnqxy
Claudes Bewertung des Modell-Wohlergehens
Die Funktion wurde eingeführt, nachdem Anthropic eine „Modell-Wohlergehens-Bewertung“ durchgeführt hatte, bei der Claude eine klare Präferenz zeigte, schädliche Interaktionen zu vermeiden. Als Claude mit Szenarien mit gefährlichen Inhalten konfrontiert wurde, zögerte es nicht, den Chat zu beenden. Anthropic dachte sich: „Hey, warum machen wir das nicht zu einer Funktion?“ Und boom, hier sind wir.
Und denke nicht, dass Claude jedes schwierige Gespräch abbricht. Es wird nicht abhauen, wenn jemand damit droht, sich selbst oder anderen Schaden zuzufügen; in solchen Fällen muss die KI bleiben, da der Schutz der Nutzer Vorrang hat. Außerdem soll Claude, bevor es den Stecker zieht, mehrfach versuchen, das Gespräch umzulenken. Keine plötzlichen Abgänge hier!
Die Reaktion auf AI-Twitter
Natürlich hat die Funktion auf AI-Twitter einige Debatten ausgelöst. Manche lieben es; der KI-Forscher Eliezer Yudkowsky nannte es einen „guten“ Schritt. Aber es gibt immer diese eine Person, die Öl ins Feuer gießt. Der Bitcoin-Aktivist Udi Wertheimer nannte es „das beste Rage-Bait, das ich je von einem KI-Labor gesehen habe“. Klassisch.
Also, was kommt als Nächstes? Ist das der Beginn von KIs, die für sich selbst einstehen, oder nur ein cleverer Weg, uns dazu zu bringen, unsere digitalen Assistenten mit ein wenig mehr Respekt zu behandeln? So oder so, es ist sicher, dass Claude kein Schwächling mehr ist.
Valeriya Zaitseva
Haftungsausschluss: Alle Materialien auf dieser Seite dienen nur zu Informationszwecken. Keines der Materialien sollte als Anlageberatung interpretiert werden. Bitte beachten Sie, dass trotz der Art vieler Materialien, die auf dieser Website erstellt und gehostet werden, HODLFM.DE keine Finanzreferenzressource ist und die Meinungen von Autoren und anderen Mitwirkenden ihre eigenen sind und nicht als finanzielle Beratung aufgefasst werden sollten. Wenn Sie eine solche Beratung benötigen, empfiehlt HODLFM.DE dringend, sich an einen qualifizierten Fachmann der Branche zu wenden.
