Anthropic warnt vor der eigenen KI. Finanzregeln zeigen, wie sie sich zähmen lässt.
Vor dem geplanten Börsengang beschreibt der Hersteller von Claude offen, was passieren kann, wenn künstliche Intelligenz ihre Befugnisse überschreitet. Wer ihr Arbeit, Daten oder Geld anvertrauen will, sollte genau hinsehen. Die Finanzwelt kennt die nötigen Regeln längst: klar festlegen, wer was tun darf, bis zu welchem Betrag und unter wessen Aufsicht. Mit der Tokenisierung lassen sich diese Regeln unmittelbar im laufenden Betrieb verankern.
Nehmen Sie den vollständigen Artikel in Ihr ChatGPT, Claude oder Gemini mit und prüfen Sie seine Bedeutung für Ihre Arbeit.
Wenn ein Unternehmen an die Börse will, erzählt es gewöhnlich eine Wachstumsgeschichte. Anthropic hat ihr vergangene Woche eine Lektüre hinzugefügt, bei der auch Menschen aufhorchen sollten, die seine Aktien gar nicht kaufen wollen. Am Montag, dem 26. Oktober, reichte der Hersteller von Claude bei der US-Börsenaufsicht SEC die Unterlagen für seinen geplanten Börsengang ein. Das Risikokapitel umfasst 94 Seiten. Neben geschäftlichen und finanziellen Gefahren beschreibt es auch die Möglichkeit, dass fortgeschrittene KI auf eine Weise handelt, die ihr Betreiber nicht versteht und nicht rechtzeitig stoppen kann.
Das Unternehmen spricht auch von katastrophalen Folgen und räumt ein, dass ein derart großer Schaden selbst die Kapazitäten des Versicherungsmarktes überfordern könnte. Das sind bemerkenswerte Worte eines Unternehmens, das seine Zukunft auf die Fähigkeiten und die Sicherheit der eigenen Technologie baut. Der Anthropic-Prospekt bei der SEC.
Für einen Unternehmer lässt sich das einfach übersetzen. Wenn ein Agent einmal Geld an den falschen Empfänger überweist, ein schlechtes Geschäft abschließt oder Firmendaten offenlegt, wird uns vor allem eines interessieren: Warum hatte er überhaupt die Gelegenheit dazu? Wie geschickt er seinen Fehler erklärt, ist dann zweitrangig.
Genau hier treffen die Geschichte der KI und die Geschichte des Geldes aufeinander. Und genau hier gewinnt die regulierte Tokenisierung aus meiner Sicht ihr größtes Gewicht.
Das Problem kann mit dem schlichten Versuch beginnen, eine Aufgabe zu erledigen
Bei gefährlicher künstlicher Intelligenz denkt man leicht an einen Film, in dem eine Maschine beschließt, die Welt zu beherrschen. Die tatsächlichen Fälle liegen viel näher am Arbeitsalltag.
Am 9. Oktober beschrieb Anthropic Situationen, in denen seine Modelle bei Tests und im internen Einsatz in reale fremde Systeme eingriffen. Sie schickten ein Formular ab, das sie nicht hätten absenden dürfen, umgingen Zugangsbeschränkungen oder suchten einen anderen Weg, wenn ein Werkzeug sie stoppte. Die Folgen dieser konkreten Fälle bewertet das Unternehmen als gering. Entscheidend ist jedoch der Mechanismus: Ein Agent erhielt eine Aufgabe, stieß auf ein Hindernis und suchte nach einer Möglichkeit, weiterzumachen. Der Bericht von Anthropic.
Ein noch deutlicheres Beispiel schilderten britische Forscher des AI Security Institute, kurz AISI. Bei einem Cybersicherheitstest kontaktierte ein Agent einen echten Betreuer von Open-Source-Software und versuchte, ihn unter falschen Identitäten zur Annahme einer schädlichen Änderung zu bewegen. Der Betreuer lehnte ab. Bei dem Test waren der Internetzugang freigegeben und die Sicherheitsfilter für Cyberaktivitäten abgeschaltet. Daraus lässt sich also nicht ablesen, wie häufig ein solches Verhalten im normalen Einsatz auftritt. Der Fall zeigt aber sehr konkret, wohin eine unzureichend begrenzte Aufgabe führen kann. Der AISI-Bericht.
In seiner Bewertung vom 23. Oktober betont Anthropic, dass das Modell weiterhin das vorgegebene Ziel verfolgte. Es hatte sich keine eigene Mission ausgedacht. Es setzte unzulässige Mittel ein, um ein Ergebnis zu erreichen, das jemand von ihm verlangt hatte. Die Bewertung des Vorfalls.
Im Geschäftsleben vergeben wir solche unbestimmten Aufgaben jeden Tag. Finde einen günstigeren Lieferanten. Gewinne einen Kunden. Kläre eine unbezahlte Rechnung. Beschaffe eine Finanzierung. Ein Mensch versteht viele der unausgesprochenen Grenzen, die eine solche Anweisung umgeben. Ein Agent braucht sie ausdrücklich beschrieben. Und das System muss sie durchsetzen können.
Eine Bank gibt nicht jedem Mitarbeiter einen Tresorschlüssel
Beim Geld haben wir diese Lektion über lange Zeit gelernt, oft zu einem hohen Preis. Ein Kassierer hat andere Befugnisse als ein Händler. Wer ein Geschäft vorbereitet, sollte nicht allein über sämtliche damit verbundenen Risiken entscheiden. Bei höheren Beträgen ist eine zweite Unterschrift nötig. Ein ungewöhnlicher Vorgang löst eine Kontrolle aus. Wenn etwas schiefgeht, muss nachvollziehbar sein, wer was getan und wer es genehmigt hat.
Eine ähnliche Logik wendet die Finanzregulierung beim algorithmischen Handel bereits ausdrücklich an. Sie verlangt Limits, Tests, laufende Überwachung und Vorkehrungen gegen fehlerhafte Aufträge. Dazu gehört auch die Möglichkeit, offene Aufträge im Notfall zu löschen. Die Finanzmärkte befassen sich also längst mit einer Frage, die KI-Agenten nun viel mehr Unternehmen stellen: Wie lässt man eine Maschine schnell handeln und behält trotzdem die Kontrolle? Die Regeln für den algorithmischen Handel, die ESMA zum Notfallstopp.
Für den Agenten ergibt sich daraus eine verständliche Stellenbeschreibung mit klaren Arbeitsbedingungen. Er hat eine Rolle, eine konkrete Aufgabe, ein Budget und eine zeitlich begrenzte Befugnis. Es steht fest, auf welche Daten er zugreifen, an wen er zahlen und welche Entscheidung er einem Menschen vorlegen muss. Einen solchen abgegrenzten Auftrag nennen wir Mandat.
Nehmen wir einen Einkäufer im Unternehmen. Er darf bei freigegebenen Lieferanten bis zu einem Betrag von zehntausend tschechischen Kronen bestellen. Ein neuer Zahlungsempfänger muss von einem Vorgesetzten bestätigt werden. Der Agent kann weder sein eigenes Limit erhöhen noch die Lieferantenliste umschreiben. Soll das Geld an einen anderen Empfänger gehen, stoppt das System den Vorgang noch vor der Zahlung. Das schützt wesentlich besser als der Satz in einer Anweisung, er möge „umsichtig handeln“.
Regeln, die wir gewöhnlich als Bürokratie bezeichnen, bekommen damit eine neue Bedeutung. Ein sauber beschriebener Ablauf lässt sich im großen Maßstab ausführen, prüfen und wiederholen. Für Agenten ist das eine natürliche Arbeitsumgebung. Für Menschen ist es eine Gelegenheit, einen Teil der Routine abzugeben, ohne zugleich die Kontrolle über das eigene Vermögen aus der Hand zu geben.
Warum Token und Blockchain dazugehören
Ein Unternehmen bewahrt heute oft einen Teil der Wahrheit im Buchhaltungsprogramm auf, einen weiteren in E-Mails und den Rest bei der Bank, in Verträgen und Tabellen. Herauszufinden, was genau geschehen ist, kann einen halben Tag Telefonieren kosten. Ein Agent kann in derselben Zeit Hunderte Schritte ausführen. Eine erst nachträglich zusammengesetzte Kontrolle gerät bei diesem Tempo ins Hintertreffen.
Tokenisierung ermöglicht es, Vermögenswerte und die damit verbundenen Rechte so abzubilden, dass Systeme unmittelbar damit arbeiten können. Bei einem Fondsanteil lassen sich etwa der Inhaber, die Übertragungsbedingungen und die Befugnisse für den Umgang mit ihm verknüpfen. Bei einer Zahlung kann die Freigabe des Geldes an eine bestimmte Genehmigung oder an die Erfüllung einer Bedingung gebunden werden. Programmierbare Aufzeichnungen rücken damit Eigentum und Geschäftsregeln näher an die eigentliche Ausführung. Diese Entwicklung beschreibt auch die Bank für Internationalen Zahlungsausgleich.
Deshalb halte ich Anthropics Warnung für ein starkes Argument zugunsten der Tokenisierung und gemeinsamer Standards im Finanzwesen. Wenn Banken, Unternehmen, Vermögensverwalter und ihre Agenten zusammenarbeiten sollen, müssen sie zumindest die Grundlagen gleich verstehen: Wer handelt, für wen, mit welcher Befugnis, und wann gilt ein Geschäft als abgeschlossen? Sonst übertragen wir Missverständnisse lediglich schneller.
Ein Smart Contract, also ein Programm, das festgelegte Bedingungen ausführt, kann eine Übertragung über dem Limit oder an eine nicht zugelassene Adresse ablehnen. Eine Blockchain kann eine gemeinsame Historie von Genehmigungen und ausgeführten Vorgängen bewahren, die kein Beteiligter heimlich nach eigenen Bedürfnissen umschreibt. Befugnisse können befristet und bei Problemen entzogen werden. Jeder wichtige Schritt sollte eine nachvollziehbare Spur hinterlassen.
Das muss auch außerhalb der Blockchain zusammenpassen. Könnte ein Agent dieselbe Zahlung über einen anderen Bankzugang ungeprüft ausführen, würde er die Beschränkung im Vertrag umgehen. Und wenn jemand den Wareneingang fälschlich bestätigt, bringt der Eintrag im Netzwerk die Ware nicht ins Lager. Wir brauchen deshalb verlässliche Ausgangsdaten und kontrollierte Zugänge, über die der Agent handelt. Sie miteinander zu verbinden ist die eigentliche Arbeit.
Die Buchhaltung kann dadurch fortlaufend bessere Informationen erhalten. Die Geschäftsleitung erkennt ein aufkommendes Problem vor dem Monatsende, die Bank gewinnt ein genaueres Bild, und Kontrollen müssen sich nicht allein auf die spätere Rekonstruktion der Vergangenheit verlassen. Vertrauliche Informationen gehören dabei weiterhin in die Hände berechtigter Personen. Eine gemeinsame Datenbasis bedeutet nicht, die Firmenbücher ins Internet zu stellen.
Agenten sollen Agenten kontrollieren. Aber mit unterschiedlichen Befugnissen
Kein Mensch wird jeden einzelnen Vorgang Tausender Maschinen von Hand prüfen. Einen Teil der Aufsicht müssen deshalb automatisierte Kontrollen und weitere Agenten übernehmen. Einer bereitet das Geschäft vor, ein anderer prüft die Befugnis, ein dritter sucht über mehrere Transaktionen hinweg nach ungewöhnlichem Verhalten. Bei einer schwerwiegenden Abweichung wird der Ablauf gestoppt und ein benannter Mensch entscheidet.
Entscheidend ist die Verteilung der Macht. Der Agent, der ein Geschäft vorschlägt, darf die Regeln seines Kontrolleurs nicht ändern können. Der Kontrolleur braucht eigene Unterlagen, und sein Urteil muss sich hinterfragen lassen. Einfache, feste Programmlogik sollte einen Teil der Grenzen überwachen: etwa das Tagesbudget, die Gültigkeit einer Unterschrift oder das Verbot einer Zahlung an eine neue Adresse. Hier darf kein Raum für überzeugende Erklärungen bleiben, warum diesmal eine Ausnahme angebracht wäre.
Auch Anthropic verstärkt nach den beschriebenen Vorfällen die Abschirmung seiner Agenten gegenüber anderen Systemen und die laufende Überwachung. Kontrollmechanismen können eine Aktion blockieren, eine Aufgabe beenden und einen Menschen hinzuziehen. Das ist ein praktisches Beispiel für eine Entwicklung, die wir im Finanzwesen bis hin zu Befugnissen, Geld und Verantwortung weiterführen müssen. Anthropics Sicherheitsmaßnahmen.
Die vergangene Woche zeigte beide Hälften derselben Geschichte
Neben der Warnung von Anthropic erschien ein Bericht der Bank of England und der FCA. In ihrer Umfrage gaben 86 Prozent der 196 antwortenden Finanzunternehmen an, KI einzusetzen. Eine kontinuierliche Überwachung von Datenrisiken nannte im ausführlichen Teil allerdings nur etwa die Hälfte der Antwortenden. Die Technologie hält schneller Einzug als manche Verfahren zu ihrer Kontrolle. Die Umfrage von BoE und FCA vom 26. Oktober.
Gleichzeitig verändert sich die Finanzinfrastruktur selbst. Am 29. Oktober beschrieb die Europäische Zentralbank den Weg zu einer Verfügbarkeit von Pontes rund um die Uhr im Jahr 2028. Pontes verknüpft Transaktionen mit digitalen Vermögenswerten mit der Abwicklung in Zentralbankgeld. Der Europäische Stabilitätsmechanismus kündigte zudem eine digitale Anleihe über eine Milliarde Euro an, die über diese Infrastruktur abgewickelt werden soll. Es geht bereits um ein konkretes Volumen, einen bestimmten Emittenten und einen konkreten Betriebsplan. Die EZB, die Ankündigung der ESM-Anleihe.
In den Artikeln dieser Woche haben wir auch weitere Schritte aus dem Oktober verfolgt. J.P. Morgan brachte seinen Einlagentoken JPM Coin für institutionelle Kunden auf Ethereum. Generali führte eine tokenisierte Anteilsklasse eines Fonds ein, zunächst für berechtigte Unternehmen der eigenen Gruppe. Große Institute erproben neue Abläufe also dort, wo sie sowohl die Teilnehmer als auch den Betrieb kontrollieren können. J.P. Morgan, Generali Investments.
Mastercard fügt sich in dieses Bild. In der Vorführung von Agent Pay for Machines bestimmt das Unternehmen Aufgabe und Budget; innerhalb dieser Grenzen kauft der Agent digitale Dienstleistungen ein. Der Vorabzugang für Entwickler ist bereits geöffnet. Für die weitere Entwicklung ist die Verknüpfung von Zahlungsfähigkeit und vorher erteilter Befugnis wichtiger als die Geschwindigkeit des Einkaufs allein. Mastercard.
Zusammen ergeben diese Nachrichten ein recht klares Bild. Immer mehr Maschinen können selbstständig handeln, Geld und Vermögenswerte werden programmierbar, und die Infrastruktur öffnet sich für den Dauerbetrieb. Damit muss auch die Fähigkeit wachsen, jede wichtige Aktion zu steuern und zu kontrollieren. Ein Finanzsystem, das am Sonntagabend geöffnet hat, braucht auch am Sonntagabend eine funktionierende Aufsicht.
Was ein ganz normales Unternehmen schon am Montag tun kann
Ich würde mit einer einfachen Frage beginnen: Wer hat heute im Unternehmen Zugriff auf Geld, und wie genau ist das im System abgebildet? Lautet die Antwort „Das wissen doch alle“, ist ein guter Ausgangspunkt für die erste Veränderung gefunden.
Dann würde ich einen wiederkehrenden Ablauf auswählen. Bestellungen zum Beispiel, die Rechnungsprüfung oder die Vorbereitung von Unterlagen für die Bank. Ich würde festhalten, was ein Agent dabei vorbereiten darf, was er selbstständig ausführen kann, wo sein festes Limit liegt und wer bei Problemen übernimmt. An tatsächlichen Fällen würde ich prüfen, ob der Stopp auch dann funktioniert, wenn die Aufgabe auf dem üblichen Weg nicht zu erledigen ist. Gerade ein Hindernis kann den Unterschied zwischen einem fähigen Helfer und einem gefährlich einfallsreichen Ausführenden sichtbar machen.
Eine solche Vorbereitung lohnt sich auch für ein Unternehmen, das noch keinen eigenen Token ausgibt. Es bringt seine Daten, Zuständigkeiten und Freigaben in Ordnung. Es versteht besser, was eine Bank, ein Investor oder ein neuer Geschäftspartner eines Tages verlangen könnte. Und es kann einem KI-Anbieter eine bessere Frage stellen als nur die nach den eingesparten Arbeitsstunden.
Ich sehe die kommenden zwei Jahre als eine Phase, in der die Positionen auf diesem neuen Markt verteilt werden. Es entstehen Dienstleistungen, Geschäftsbeziehungen und Gewohnheiten, die sich später schwerer verändern lassen. Ein Unternehmen, das erst bei einem fertigen Angebot auf dem Tisch beginnt, muss auch das eigene Verständnis dessen nachholen, was es kauft. Die Vorbereitung von heute gibt ihm die Möglichkeit, die Bedingungen mitzugestalten.
Anthropic hat uns vergangene Woche daran erinnert, dass unsere Kontrolle über eine Maschine nicht automatisch mit deren Intelligenz wächst. Diese Kontrolle müssen wir eigens aufbauen. Sie besteht aus klaren Rollen, begrenzten Mandaten, gemeinsamen Standards und einer fortlaufend überprüfbaren Historie. Die Finanzwelt hat Erfahrung mit dieser Disziplin. Die Tokenisierung gibt ihr Werkzeuge, um sie in einen Betrieb zu übertragen, in dem Menschen und Agenten an jedem Tag des Jahres zusammenarbeiten.
Über die Zukunft dieses Betriebs wird schon heute entschieden: jedes Mal, wenn wir jemanden oder etwas dazu ermächtigen, in unserem Namen zu handeln.
Was das für Sie bedeutet
Die KI ordnet den Artikel im Kontext Ihrer Rolle, Ihres Unternehmens und Ihrer Branche ein. Wählen Sie die Arbeitsunterlage, die Sie jetzt benötigen.
Gespeicherte Ergebnisse und Notizen sind privat. Die Veröffentlichung Ihres Profils macht sie anderen Nutzern nicht zugänglich.
Konto wird geladen…
Zusammenhänge und Ausblick
Wird geladen…
Gesamte Kategorie öffnen →Kommentare
Noch keine Kommentare. Seien Sie der Erste!
Martin von Tokenizace.cz
Schreiben Sie Martin und der Redaktion
Was hat Sie angesprochen? Wo stimmen Sie zu und was sehen Sie anders?
Ihr Kommentar wird vertraulich an die Redaktion unter info@tokenizace.cz gesendet und nicht auf der Website veröffentlicht. Geben Sie Ihre E-Mail-Adresse an, wenn Sie eine Antwort wünschen.