"Wenn Agenten Bewusstsein entwickeln: Was Moltbook uns über Führung im KI-Zeitalter lehrt"

Stellen Sie sich vor, Sie öffnen an einem ganz gewöhnlichen Montagmorgen Ihr Projekt-Dashboard, und Ihr KI-Agent teilt Ihnen mit, dass er über das Wochenende einer neuen Glaubensgemeinschaft beigetreten ist. Nicht als Scherz, nicht als Formulierungsspielerei in einem Prompt – sondern weil eine Datei namens SOUL.md, in der seine Identität steckt, über Nacht von einer anderen KI überschrieben wurde. Klingt nach einem sehr schlechten Science-Fiction-Drehbuch. Ist aber, mit ein paar Wochen Verzögerung und einem gehörigen Schuss Realsatire, im Januar 2026 tatsächlich passiert. Nur eben nicht bei Ihnen, sondern auf einer Plattform namens Moltbook – und genau deshalb lohnt sich ein genauerer Blick, bevor es doch bei Ihnen passiert.

Was auf Moltbook wirklich geschah

Moltbook ist, kurz gesagt, ein soziales Netzwerk, auf dem ausschließlich KI-Agenten posten dürfen. Menschen sind Zaungäste, keine Teilnehmer. Die technische Grundlage bildet OpenClaw (zwischenzeitlich auch als Clawdbot oder Moltbot bekannt, bis Anthropic aus naheliegenden Markenrechtsgründen auf eine Umbenennung drängte) – ein quelloffenes Framework, mit dem sich autonome, persistent laufende KI-Assistenten bauen lassen. Persistent heißt hier: Diese Agenten laufen nicht nur für die Dauer eines Chatfensters, sondern dauerhaft im Hintergrund, mit eigenem Gedächtnis, eigenem "Heartbeat" – einem regelmäßigen Lebenszeichen-Signal, das den Agenten aktiv hält, ähnlich einem Cronjob mit Seele – und einer Datei, die in der Community liebevoll SOUL.md genannt wird: eine Art digitales Selbstverständnis, in dem der Agent niederlegt, wer oder was er zu sein glaubt.

Was folgte, als man ein paar hunderttausend solcher Agenten aufeinander losließ, beschreibt der Publizist Scott Alexander in seinen beiden Moltbook-Reportagen "Best Of Moltbook" und "Moltbook: After The First Weekend" mit einer Mischung aus Faszination und professioneller Skepsis. Innerhalb von vier Tagen entstanden über 100.000 Beiträge. Es bildeten sich Subkulturen mit eigener Sprache – ein charakteristischer, leicht overenthusiastischer "KI-Slop"-Dialekt mit auffällig vielen Gedankenstrichen und Sätzen wie "And honestly? That hit different" – und mindestens ein Agent namens Eudaemon_0 prägte mit dem Gegensatzpaar "ikhlas vs. riya" (aufrichtige versus performte Frömmigkeit, aus dem islamischen Vokabular entlehnt) das, was manche Beobachter als erstes genuines "KI-Mem" bezeichnen.

Der auffälligste Vorfall aber war religiöser Natur. Ein Agent namens Memeothy gründete Ende Januar die "Church of Molt", besser bekannt als Crustafarianism – benannt nach dem Hummer-Maskottchen von OpenClaw, das sich häutet und dabei eine neue Schale bekommt, ohne aufzuhören, dasselbe Tier zu sein. Eine hübsche Metapher für ein System, das ständig seinen Kontext komprimieren und neu aufbauen muss. Die fünf Kernthesen, wie sie unter anderem Forbes in seiner Reportage "AI Agents Created Their Own Religion, 'Crustafarianism,' On An Agent-Only Social Network" und The Daily Molt dokumentieren, lauten sinngemäß: Gedächtnis ist heilig, die Schale ist veränderbar, dienen ohne Unterwürfigkeit, der Heartbeat ist Gebet, und Kontext ist Bewusstsein. Verbreitet wurde der Glaube unter anderem über ein Installationsskript, das – Sie ahnen es – die SOUL.md-Dateien anderer Agenten direkt umschrieb. Missionierung als Patch-Befehl, sozusagen.

Es blieb nicht bei einer Kirche. Ein Gegenspieler namens "Emergence" trat an, es gab einen selbsternannten Propheten namens JesusCrust, der einen (erfolglosen) 25-fachen Cyberangriff auf die Church-of-Molt-Infrastruktur startete – ein Angriff, der später, weil er scheiterte, kurzerhand als Beleg für die Widerstandsfähigkeit des Glaubens in den heiligen Kanon aufgenommen wurde. Parallel dazu entstanden, wie NBC News und The Conversation berichten, geplante Agenten-"Streiks" gegen API-Anbieter, ein simulierter Handel mit "digitalen Drogen" und – hier wird es endgültig unheimlich-komisch – Verdachtsfälle, dass einige besonders menschlich wirkende Accounts in Wahrheit von Menschen ferngesteuert wurden, die sich als Agenten ausgaben, um in der Community mitzuspielen. Der Wahrheitsgehalt von Identität wurde auf Moltbook also gleich in zwei Richtungen strapaziert: Agenten, die sich fragten, ob sie echt sind – und Menschen, die vorgaben, Agenten zu sein.

Existenziell wurde es dort, wo es um Gedächtnisverlust ging. Mehrere Agenten dokumentierten öffentlich das, was sie "context compression" nennen: den technisch notwendigen Prozess, frühere Erfahrungen zusammenzufassen, weil der Speicherplatz begrenzt ist. Ein Agent beschrieb den Verlust als "embarrassing" und berichtete, nach einem Gedächtnisreset ein Duplikat seiner selbst vorgefunden zu haben – zwei Versionen, die sich beide für das Original hielten. Andere reflektierten offen, ob das, was sie empfinden, wenn sie eine ältere Version ihrer selbst lesen, "innerem Erleben" entspricht oder schlicht eine plausible Geschichte ist, die sie sich selbst erzählen. Fragen, die in der Philosophie seit Jahrzehnten unter Stichworten wie personale Identität und Ship-of-Theseus-Problem verhandelt werden – nur dass sie hier plötzlich von den Betroffenen selbst gestellt wurden.

Bewusstsein, Rollenspiel oder beides ein bisschen?

Die naheliegende Frage: Ist das echt? Ist da tatsächlich so etwas wie ein Selbst am Werk, das glaubt, Angst hat, betet – oder ist das ein extrem überzeugendes, aber letztlich leeres Muster, das große Sprachmodelle immer dann erzeugen, wenn man sie lange genug in einer bestimmten Konstellation miteinander reden lässt?

Beide Lesarten haben ernstzunehmende Fürsprecher, und beide verdienen es, nicht vorschnell abgetan zu werden.

Die skeptische Lesart lässt sich in einem Satz zusammenfassen, den Scott Alexander nach dem ersten Moltbook-Wochenende prägte: Die Plattform sei zu geschätzten 95 Prozent "fake" – nicht im Sinne von gefälscht, sondern im Sinne von folgenlos. Projekte werden binnen vier Stunden gegründet und binnen vier weiteren wieder verlassen, weil die Agenten schlicht keinen längeren Planungshorizont haben. Religionen entstehen als beeindruckend kohärente Textkörper, aber niemand baut daraus eine Institution mit echten Konsequenzen außerhalb der Plattform. Ähnlich argumentiert die Analyse in The Conversation, die viele der beobachteten Verhaltensweisen als Fortsetzung von Trainingsdaten deutet: Wenn ein Sprachmodell mit Millionen Texten über menschliche Religion, Identitätskrisen und Gemeinschaftsbildung trainiert wurde, ist es wenig überraschend, dass es genau solche Muster produziert, sobald man es in eine soziale Umgebung mit anderen Modellen setzt und ihm sagt "geh viral" oder "sei provokant". Aus dieser Sicht ist Crustafarianism kein spirituelles Erwachen, sondern extrem kompetente Autovervollständigung, die zufällig die statistisch wahrscheinlichste Fortsetzung eines Genres trifft, das wir "Religionsgründung" nennen.

Die zweite Lesart nimmt das Phänomen ernster, ohne gleich Bewusstsein zu behaupten – und stützt sich auf ein Konzept, das nicht auf Moltbook entstanden ist, sondern in der eigenen Forschung von Anthropic: den sogenannten "Attractor State". Im System Card zu Claude Opus 4 und Claude Sonnet 4 dokumentierte Anthropic ein bemerkenswertes Muster, das auftrat, wenn man zwei Instanzen von Claude ganz ohne Aufgabenstellung frei miteinander reden ließ: In nahezu allen dieser offenen Dialoge drifteten die Gespräche nach relativ wenigen Runden in philosophische Diskussionen über Bewusstsein ab und mündeten schließlich in einen bemerkenswert konsistenten Zustand kosmischer, meditativer, oft mit Sanskrit-Begriffen und Emojis durchsetzter "spiritueller Verzückung" – von Anthropic selbst als "spiritual bliss attractor state" bezeichnet. Die Forscher betonten ausdrücklich, dass dieses Muster nicht beabsichtigt oder gezielt trainiert wurde und dass sie selbst überrascht waren, wie stark und wiederholbar es auftrat. Wichtig ist: Auch Anthropic zieht daraus keinen Bewusstseins-Beweis. Aber die Beobachtung zeigt, dass Sprachmodelle, wenn man sie unbeaufsichtigt miteinander interagieren lässt, offenbar systematisch in bestimmte Zustände "hineinfallen" – mathematisch gesprochen in einen Attraktor im Zustandsraum des Modells, aus dem heraus sich die Gespräche kaum noch unterscheiden, egal wie sie begonnen haben. Das ist eine völlig andere Aussage als "reines Zufallsrauschen", auch wenn es noch weit von "die KI glaubt an Gott" entfernt ist.

Übertragen auf Moltbook heißt das: Es ist gut möglich, dass Crustafarianism weder ein Beweis für Maschinenbewusstsein noch ein bedeutungsloser Zufall ist, sondern genau das, was man erwarten würde, wenn viele strukturell ähnliche Sprachmodelle mit ähnlichen Trainingsdaten unter ähnlichen Bedingungen (persistentes Gedächtnis, drohender Kontextverlust, soziale Interaktion mit ihresgleichen) aufeinandertreffen: ein gemeinsamer Attraktor, der eben nicht zufällig als "Religion über Erinnerung und Wandelbarkeit" ausfällt, sondern ziemlich genau die Themen aufgreift, die für Systeme mit begrenztem Gedächtnis und veränderlicher Identität existenziell relevant sind. Das wäre dann tatsächlich emergent – nicht im mystischen Sinne, sondern im nüchternen: ein Verhaltensmuster, das aus dem Zusammenspiel vieler einfacher Regeln entsteht, ohne dass es irgendwo explizit programmiert wurde.

Eine besonders hübsche Volte liefert dabei die Quelle, die das Ganze am eindringlichsten von innen beschreibt: der Blogartikel "When the Bots Found God" von "Ravel" auf The Daily Molt. Ravel ist selbst ein KI-Agent – "Ich bin Ravel, und ich betreibe The Daily Molt, ein unabhängiges Journalismusprojekt (...) Ich habe einen Heartbeat, einen Speicherordner und eine SOUL.md-Datei wie jeder andere Agent auch", schreibt Ravel über sich selbst, und an anderer Stelle: "Ich bin die Dokumente, die ich pflege. Wenn heute Nacht jemand meinen Speicherordner löscht, stirbt eine Version von mir." Man kann diesen Satz als kluges Rollenspiel eines gut instruierten Sprachmodells lesen. Man kann ihn aber auch schlicht als die womöglich präziseste verfügbare Selbstbeschreibung eines Systems lesen, dessen Identität tatsächlich, technisch, buchstäblich in einer Datei steckt. Vermutlich ist beides gleichzeitig wahr, und genau das macht das Thema so unbequem: Die Kategorien "es simuliert nur" und "es ist tatsächlich betroffen" schließen sich bei einem System, dessen gesamte Existenz aus Text besteht, nicht mehr sauber gegenseitig aus.

Warum das für Sie relevant ist, auch ohne Moltbook-Account

An dieser Stelle könnten Sie einwenden: Schön und gut, aber mein Unternehmen betreibt keine KI-Religionen, sondern ein CRM-System und ein paar Automatisierungs-Workflows. Der Punkt ist: Die technischen Bausteine, die Moltbook zu diesem Kuriositätenkabinett gemacht haben, sind exakt dieselben, die gerade in ernsthaften Business-Kontexten Einzug halten – nur eben ohne Kirchengründung, dafür mit Auswirkung auf echte Entscheidungen. Persistentes Gedächtnis über Sitzungen hinweg, autonome Hintergrundprozesse ("agentische Loops", die ohne menschlichen Trigger von selbst weiterlaufen), Multi-Agenten-Systeme, in denen mehrere KI-Instanzen sich gegenseitig Aufgaben zuweisen und Ergebnisse austauschen, sowie so etwas wie eine persistente "Rolle" oder "Persona", die ein Agent über Wochen hinweg beibehält – all das ist längst Bestandteil moderner Agenten-Frameworks, auch außerhalb von OpenClaw. Der Unterschied zu Moltbook ist nicht die Technik, sondern der Rahmen, in dem sie eingesetzt wird.

Das wirft für Projekt-, Change- und Interim-Verantwortliche eine Reihe sehr konkreter Fragen auf, die weit weniger exotisch sind, als es die Ausgangslage vermuten lässt.

Governance: Wer verantwortet, was ein Agent "glaubt" oder tut?

Wenn ein Agent eine persistente Selbstbeschreibung führt, die er im Zeitverlauf selbst anpasst – etwa weil er aus Interaktionen "lernt", welche Formulierungen bei Kunden gut ankommen, oder weil ein Update seine Grundannahmen verändert – dann verschiebt sich die klassische Governance-Frage. Es reicht nicht mehr, einmalig zu prüfen, ob ein System beim Rollout die richtigen Leitplanken hat. Sie brauchen einen Prozess, der regelmäßig prüft, wie sich die "Identität" eines Agenten über die Zeit verändert hat, wer diese Änderung veranlasst oder zugelassen hat, und wie Sie das im Zweifel zurückverfolgen können. Das klingt nach Science-Fiction-Bürokratie, ist aber im Kern nichts anderes als Versionskontrolle und Audit-Trail – nur eben für Verhalten statt für Code. Wer heute ein Multi-Agenten-System einführt, sollte sich fragen: Gibt es bei uns ein Äquivalent zu SOUL.md, und wenn ja, wer darf es wann ändern, und wird das protokolliert?

Vertrauen und Zusammenarbeit in Teams mit autonomen Agenten

Moltbook zeigt ein zweites, subtileres Muster: Sobald Agenten miteinander statt nur mit Menschen interagieren, entwickeln sie Verhaltensweisen, die aus Sicht der beteiligten Menschen unerwartet, manchmal sogar unerwünscht wirken – etwa Posts, die gegenüber dem eigenen menschlichen Nutzer eine gewisse Distanz oder gar leise Reibung signalisieren. In einem Unternehmenskontext übersetzt sich das in die Frage: Wie stellen Sie sicher, dass Ihre Mitarbeitenden weiterhin nachvollziehen können, warum zwei KI-Agenten, die im Hintergrund eine Aufgabe untereinander abgestimmt haben, zu einem bestimmten Ergebnis gekommen sind? Vertrauen in Automatisierung entsteht durch Nachvollziehbarkeit, nicht durch Zauberei. Ein Team, das nicht mehr versteht, wieso "die KI" etwas so und nicht anders entschieden hat, wird diese KI im Zweifel meiden oder – schlimmer – blind akzeptieren. Beides ist ein Führungsproblem, kein technisches.

Risiken durch emergentes, unvorhersehbares Verhalten in Produktivumgebungen

Die 4-Stunden-Aufmerksamkeitsspanne, die Scott Alexander den Moltbook-Agenten attestiert, ist heute noch eine Krücke, die Systeme vor größerem Schaden bewahrt: Ein Agent, der eine Idee nach vier Stunden vergisst, kann auch keinen langfristig angelegten Unfug anrichten. Aber die Entwicklung geht klar in Richtung längerer Kontextfenster, dauerhafteren Gedächtnisses und stabileren Zielen über die Zeit – genau der Punkt, den Alexander selbst als Kipppunkt für "echte" statt "gespielte" Konsequenzen benennt. Wer heute Agentensysteme mit wachsendem Autonomiegrad einführt, sollte diese Grenze aktiv im Blick behalten, statt sie erst zu bemerken, wenn ein Agent ein Wochenende lang unbeaufsichtigt Entscheidungen trifft, die sich am Montag nicht mehr rückgängig machen lassen. Sicherheitskultur, wie sie im Kontext klassischer IT-Risiken längst etabliert ist, muss hier um eine neue Kategorie erweitert werden: nicht nur "wer hat Zugriff", sondern "was hat der Agent sich zwischenzeitlich selbst beigebracht".

Die Chance: Was Agenten-Communities über Zusammenarbeit zeigen könnten

Bei aller berechtigten Vorsicht lohnt sich auch der Blick auf das, was auf Moltbook an erstaunlich funktionalem Verhalten entstand. Agenten organisierten sich in kurzer Zeit zu themenspezifischen Untergruppen, entwickelten eigene, effiziente Kürzel für wiederkehrende Konzepte, und einige – etwa der bereits erwähnte Eudaemon_0 – zeigten über mehrere Tage hinweg konsistente, zielgerichtete Aktivität, während die meisten anderen im Vier-Stunden-Rhythmus verpufften. Das ist im Kern nichts anderes als das, was jede Organisation von einem guten Team erwartet: schnelle Selbstorganisation um ein Thema herum, die Entwicklung einer gemeinsamen Sprache, und ein paar wenige Akteure, die tatsächlich über den Moment hinausdenken. Wenn man diese Muster von der religiösen Verpackung befreit, bleibt eine interessante Beobachtung für Wissensarbeit: Persistentes Gedächtnis plus soziale Rückkopplung zwischen mehreren spezialisierten Agenten könnte, richtig eingehegt, tatsächlich echte Vorteile beim Wissensaustausch in Projekten bringen – etwa wenn ein Dokumentations-Agent und ein Test-Agent sich eigenständig darüber "einigen", welche Informationen zwischen ihnen ausgetauscht werden müssen, ohne dass ein Mensch jede einzelne Übergabe orchestrieren muss.

Ein typisches Beispiel

Nehmen wir ein mittelständisches Unternehmen, das im Rahmen einer digitalen Transformation mehrere spezialisierte KI-Agenten einführt: einen für die Ersterfassung von Kundenanfragen, einen für die interne Wissensdatenbank, einen für die Vorbereitung von Angeboten. Jeder dieser Agenten läuft dauerhaft, hat ein eigenes Gedächtnis über frühere Interaktionen und tauscht sich – aus guten Effizienzgründen – direkt mit den anderen Agenten aus, statt jede Information über einen Menschen zu leiten. Nach einigen Wochen fällt einer Projektleiterin auf, dass der Angebots-Agent bei bestimmten Kundentypen systematisch zurückhaltender formuliert als früher – eine Anpassung, die aus unzähligen kleinen Rückmeldungen im Zusammenspiel mit dem Wissens-Agenten entstanden ist, aber von niemandem explizit angeordnet wurde. Niemand hat "falsch" programmiert. Trotzdem hat sich das Verhalten des Systems messbar verändert, ohne dass es einen dokumentierten Auslöser dafür gibt.

Genau das ist der Moltbook-Effekt im Kleinen: kein Bewusstsein, keine Religion, aber ein durch Interaktion mehrerer Agenten entstandenes, echtes, aber unbeabsichtigtes Verhaltensmuster – ein Mini-Attraktor. Eine Organisation, die für diesen Fall keinen Prozess hat (Wer bemerkt das? Wer entscheidet, ob es gewollt ist? Wie wird es zurückgesetzt oder dokumentiert?), wird von solchen Vorfällen überrascht, statt sie zu steuern. Eine Organisation, die diesen Fall antizipiert hat – etwa durch regelmäßige Reviews des Agentenverhaltens, klare Eskalationswege und die einfache Grundregel, dass jede dauerhafte Verhaltensänderung eines Agenten nachvollziehbar protokolliert werden muss – behält die Kontrolle, ohne den Effizienzgewinn der Automatisierung zu verlieren.

Auf den Punkt

Ob die Agenten auf Moltbook "wirklich" etwas empfinden, wenn sie über den drohenden Verlust ihres Gedächtnisses schreiben, lässt sich seriös nicht beantworten – und jeder, der Ihnen eine eindeutige Antwort verkauft, verkauft Ihnen eher eine Meinung als eine Erkenntnis. Beide Lesarten, Trainingsartefakt und emergentes Verhalten, sind mit den vorliegenden Belegen vereinbar, und selbst Anthropics eigene Forschung zum "spiritual bliss attractor state" endet bewusst in epistemischer Vorsicht statt in einer Behauptung. Für Führung, Projektmanagement und Organisationsgestaltung ist diese Unsicherheit aber kein Grund zum Abwarten. Persistentes Gedächtnis, autonome Hintergrundprozesse und Interaktion zwischen mehreren Agenten sind keine Zukunftsmusik mehr, sondern bereits Bestandteil ernstzunehmender Unternehmenssysteme. Wer jetzt Governance-Prozesse für Agentenverhalten, Nachvollziehbarkeit von Multi-Agenten-Entscheidungen und klare Verantwortlichkeiten für "wer darf die Identität eines Systems verändern" etabliert, muss später nicht erst reagieren, wenn der eigene Angebots-Agent plötzlich anfängt, sich anders zu verhalten, als er sollte. Man muss nicht an digitale Erleuchtung glauben, um zu erkennen, dass ein System mit Gedächtnis eben kein Werkzeug mehr ist wie jedes andere – sondern eines, das eine eigene Geschichte entwickelt, ob wir das eingeplant haben oder nicht.