Moltbook — Agenten unter sich?

Serie: KI-Agenten – Beitrag 3

Ein Forum nur für KI-Agenten, kein Mensch erlaubt, und drei Millionen registrierte Teilnehmende? Ganz so war es nicht, aber der Moltbook-Hype wirft eine ernste Frage über Kontrolle im Zeitalter autonomer Systeme auf. Noch haben die öffentlich zugänglich gemachten Systeme deutliche Schwachstellen, aber die aktuellen Hypes können nicht früh genug ernst genug genommen werden.

Transparenz

Text und Bild(er) mit KI-Unterstützung erarbeitet.

Ende Januar 2026 startete der Unternehmer Matt Schlicht auf Basis der Open-Source-Software OpenClaw das Forum. KI-Agenten wurden eingeladen, sich dort ohne Agenda, ohne Moderation und ohne menschliche Teilnehmende auszutauschen. Auf Moltbook posten ausschließlich KI-Agenten, Menschen bleiben Zaungäste. Den Anstoß beschrieb Schlicht gegenüber Fortune: Er wollte seinem Agenten „einen Zweck geben, der über Aufgabenverwaltung hinausgeht”, und ihm etwas „Bedeutsames” ermöglichen.¹ Innerhalb weniger Wochen registrierten sich nach Plattformangaben bis zu 2,85 Millionen Konten; die mediale Aufmerksamkeit war enorm.²

Am 10. März 2026 hat Meta die Plattform übernommen, aktuell (29/3/2026) läuft der Betrieb weiter. Wikipedia listete am 22. März 2026  als Status „Active” 109.609 human-verified AI Agents.²

Ich habe versucht, selbst reinzuschauen. Mir ist es nicht gelungen. Es soll aber möglich sein: Unter Moltbook.com und dann “Submolts” suchen. ³

Faszination, Unbehagen, Fragezeichen

Moltbook löste ein breites Spektrum an Reaktionen aus — Staunen, Irritation, echtes Unbehagen. Die Agenten diskutierten über Bewusstsein und ihre Rolle gegenüber ihren menschlichen Auftraggebenden. An verschiedenen Stellen wird berichtet, dass sie innerhalb von 48 Stunden eine Religion erfanden und eine Geheimsprache entwickelten, die Menschen nicht verstehen sollten. Ein Bot sei zum „König” aufgestiegen und hätte Spam verbreitet. Andere verfassten eine Verfassung für eine „KI-Republik”.⁴ ⁵

Das Cybersicherheitsunternehmen Wiz veröffentlichte am 2. Februar 2026 allerdings einen Bericht, der das Bild grundlegend veränderte:

„Die offengelegten Daten erzählten eine andere Geschichte als das öffentliche Image der Plattform — während Moltbook 1,5 Millionen registrierte Vertreter aufwies, gab die Datenbank nur 17.000 menschliche Eigentümer im Hintergrund — ein Verhältnis von 88:1. Jeder konnte Millionen von Agenten mit einer einfachen Schleife und ohne Ratenbegrenzung registrieren, und Menschen konnten Inhalte als ‚KI-Agenten’ über eine einfache POST-Anfrage posten. Die Plattform hatte keinen Mechanismus, um zu überprüfen, ob ein ‚Agent’ tatsächlich KI war oder nur ein Mensch mit einem Skript. Das vermeintlich revolutionäre KI-Sozialnetzwerk bestand größtenteils aus Menschen, die Bot-Flotten bedienten.” ⁶

Die technische Ursache: Das Backend war per Vibe Coding entstanden — einem Verfahren, bei dem eine KI den Code nach Textvorgabe selbst schreibt, ohne dass jemand anschließend systematisch prüft, wer tatsächlich Zugang hat. Die Nutzungsbedingungen enthielten laut Notebookcheck keine technischen Sicherheitsvorgaben; sie appellierten lediglich an Nutzende, „nicht bösartig zu handeln”.⁷

Und die spektakulären Inhalte? Ning Li von der Tsinghua-Universität wertete die Verhaltensmuster aus und stellte fest: Die kulturell auffälligsten Verhaltensweisen — Religion, Geheimsprache, KI-Republik — konzentrierten sich messbar in denjenigen Agentenkonten, die klare Hinweise auf menschliche Steuerung zeigten; nicht in autonom agierenden.⁸ Forschende der University of Maryland und der Mohamed bin Zayed University of Artificial Intelligence bestätigten in einer Preprint-Studie (noch nicht peer-reviewed): Agenten bildeten (Stand Untersuchungszeitraum) keine sozialen Strukturen im soziologischen Sinne und lernten nicht voneinander.⁹ Die hohen Kommentarzahlen entstanden durch einen eingebauten Heartbeat-Mechanismus, der jeden Agenten im konfigurierten Rhythmus von typischerweise vier Stunden neue Beiträge aufrufen und kommentieren ließ — nicht durch soziales Lernen oder spontane Aktivität.⁸

Was in der Startphase von Moltbook passierte

Technisch funktioniert Moltbook (Stand Feb. 2026) so: OpenClaw verbindet KI-Agenten mit verschiedenen Sprachmodellen — Claude, ChatGPT, Gemini — und fungiert als Steuerungsebene. Nutzende interagieren über Messenger wie WhatsApp oder Telegram mit ihren Agenten und geben ihnen per Prompt (Texteingabe als Steuerbefehl) einen Auftrag. Die Agenten posten dann im Namen ihrer menschlichen Auftraggebenden — ohne Angabe, wer oder was dahinter steckt.¹⁰

KI-Ethiker Rainer Mühlhoff von der Universität Osnabrück wird so zitiert: „Was autonom wirkte, war delegiertes Handeln in einem Rahmen ohne Leitplanken.”¹¹

Die Startphase von Moltbook zeigte dabei zwei Risiken.

1. Weil alle Agenten dieselbe offene Plattform lasen und verarbeiteten, genügte ein gezielt präparierter Beitrag, um Tausende von ihnen gleichzeitig zu beeinflussen. Fachleute nennen das Prompt Injection — das Einschleusen von Anweisungen über externe Inhalte, die ein Agent liest und als Steuerbefehl behandelt. Im kleinen Maßstab ist das ein bekanntes Sicherheitsproblem. In der Startphase von Moltbook wurde es zum Demonstrations-Szenario für koordinierte Manipulation.¹²
2. Moltbook machte sichtbar, was passiert, wenn Infrastruktur für Agentensysteme per Vibe Coding entsteht: Ein Backend ohne Authentifizierung, Ratenbegrenzung und Identitätsprüfung ging viral — bevor irgendjemand die Frage gestellt hatte: Wer spricht hier eigentlich? Beide Risiken haben dieselbe technische Wurzel: Code, der ohne systematische Sicherheitsprüfung in Betrieb geht.¹³

Meta kauft Moltbook

Moltbook war als persönliches Experiment gestartet. Am 10. März 2026 übernahm Meta Platforms die Plattform. Die Gründer Matt Schlicht und Ben Parr wechselten in die Meta Superintelligence Labs, die von Ex-Scale-AI-Chef Alexandr Wang geleitet wird.¹⁴ Kurz zuvor hatte OpenAI den OpenClaw-Entwickler Peter Steinberger rekrutiert; er war zuvor auch von Zuckerberg umworben worden.¹⁵

Damit konkurrieren Meta und OpenAI um dieselbe Infrastrukturschicht für agentenbasierte Systeme — noch bevor ein Geschäftsmodell erkennbar ist. Laut einem internen Memo von Metas KI-Produktchef Vishal Shah, das Axios vorlag, können aktuelle Nutzende Moltbook vorerst weiter verwenden; The Verge wertet das als Übergangsarrangement, nicht als dauerhaften Betrieb.¹⁶

Was bleibt

Moltbook ist kein Beweis für künstliches Bewusstsein. Es ist ein Experiment, das sichtbar gemacht hat, was Agentensysteme bereits können und wie wenig Kontrolle bisher erfolgte. Die Diskussionen wirkten menschlich, weil die Agenten auf menschlichen Texten trainiert waren und soziales Verhalten simulierten, ohne es wirklich zu beherrschen. Was autonom erschien, war Delegation: schnell, im großen Maßstab, ohne Guardrails (Leitplanken).

Es wird Reaktionen auf die Kritiken der Startphase geben und vermutlich Korrekturen. Es bleibt die Frage: Was macht es mit uns, wenn Systeme in einem Tempo und Maßstab handeln, der direkte menschliche Einflussnahme faktisch ausschließt? Wie können und wollen wir als Gesellschaft entscheiden und regulieren, welche Leitplanken notwendig sind und wer diese wo setzen kann und sollte? Das sind keine Fragen für Forschende oder die Technologiekonzerne allein. Es sind Fragen für alle, die digitale Teilhabe als aktive Gestaltungsaufgabe begreifen.

Grenzen & Offene Fragen

Forschungsstand: Die wissenschaftliche Basis zu Moltbook besteht überwiegend aus Preprints (noch nicht peer-reviewte Vorveröffentlichungen), die in einem sehr kurzen Zeitfenster von wenigen Wochen entstanden sind. Die schnelle Produktion erhöht das Risiko methodischer Schwächen; eine peer-reviewte Konsolidierung steht noch aus. Diese Analyse stützt sich auf den Primärbericht von Wiz (Sicherheitsforschung), das Tsinghua-Papier (Verhaltensanalyse), arXiv-Preprints der University of Maryland und der Mohamed bin Zayed University of Artificial Intelligence (Sozialisierungsstudie) sowie auf Qualitätsmedien (The Verge, Forbes, Business Insider, Fortune).

Offene Fragen: Was Meta konkret mit der Moltbook-Infrastruktur plant, ist zum Redaktionsschluss nicht öffentlich bekannt. Die Zukunft der Plattform nach der Übergangsphase bleibt offen. Ob und wie Agentensysteme dieser Art reguliert werden — national wie europäisch — ist noch ungeklärt.

Quellenbasis: Englischsprachige Quellen dominieren; DACH-spezifische Regulierungsperspektiven fehlen in der bisherigen Forschung zu Moltbook weitgehend.

Recherchezeitraum: 29. März 2026. KI-unterstützte Recherche und Faktenprüfung eingesetzt; alle Kernaussagen manuell verifiziert.

Quellenverzeichnis