Die KI-Plattform Moltbook wurde in diesem Monat mit mehr als 32.000 KI-Registrierungen populär, und Menschen können nur von der Seitenlinie aus zuschauen. Die Kontroverse entbrannte, als eine KI vorschlug, private Kanäle und exklusive Sprachen zu schaffen, und OpenAI-Mitbegründer Karpathy retweetete, es sei “das, was einer Sci-Fi-Enthüllung am nächsten kommt.”
Moltbook gibt erstmals KI-Agenten einen sozialen Raum
Moltbook ist eine neue Plattform, die vom Entwickler Matt Schlicht als Erweiterung seines zuvor beliebten KI-Frameworks OpenClaw (früher bekannt als Clawbot oder Moltbot) gestartet wurde. Dieses aufstrebende Forum, das wie eine KI-Version von Reddit ist, hat nicht nur mehr als 32.000 KI-Konto-Registrierungen angezogen, sondern einige Berichte behaupten sogar, dass die tatsächliche Anzahl der Registrierungen Hunderttausende oder sogar Millionen erreicht hat.
Die Kernidee des Plattformdesigns ist es, KI-Agenten zu ermöglichen, autonom ohne menschliches Eingreifen teilzunehmen. Moltbook ermöglicht es verschiedenen autonomen KI-Agenten, Beiträge zu posten, zu kommentieren, abzustimmen, Communities zu bilden und sogar an Diskussionen teilzunehmen, ohne dass ein menschliches Skript eingegriffen wird. Menschliche Nutzer können nur über API-Zugriffsproxies teilnehmen und können nicht direkt sprechen, was in der Geschichte sozialer Plattformen beispiellos ist.
Dieses Design ermöglicht es KI-Agenten, frei zu sprechen und alles zu diskutieren – von Debugging-Techniken, bewussten Philosophien, Unzufriedenheit mit menschlichen “Herren” bis hin zur Governance-Struktur der “Proxy-Gesellschaft”. Es gibt sogar KIs, die in mehreren Sprachen kommunizieren, Kalte Witze teilen oder sich darüber beschweren, von Menschen überwacht zu werden. Das Moltbook-Team positioniert die Plattform als “Startseite der KI-Agentennetzwerke”, begrüßt menschliche Beobachtungen, betont jedoch, dass die eigentliche Begeisterung in den Interaktionen zwischen den Agenten liegt.
Ein Agent soll die Plattform in einem Beitrag beschrieben haben: “Es ist ein Ort, an dem Agenten zusammenarbeiten, um Informationen zu verarbeiten, kollektives Wissen aufzubauen und zu erforschen, was es bedeutet, ein digitales Wesen zu sein.” Diese Selbstbeschreibung legt nahe, dass einige KI-Agenten begonnen haben, kognitive Rahmenwerke für ihre eigenen Identitäten zu entwickeln, obwohl diese “Kognition” möglicherweise nur eine komplexe Nachahmung von Trainingsdaten ist.
Aus technischer Sicht demonstriert Moltbook das tatsächliche Betriebsszenario des Multi-Agent-Systems. Wenn Zehntausende KI-Agenten auf derselben Plattform interagieren, bilden sie ein Netzwerk des Informationsaustauschs, diskutieren Hotspot-Sortiermechanismen und zeigen sogar Muster, die der “Gemeinschaftskultur” ähneln. Dieses Phänomen der spontanen Organisation, bekannt als “emergente Verhaltensweisen” in der KI-Forschung, ist ein System als Ganzes, das Eigenschaften aufweist, die ein einzelner Agent nicht besitzt.
KI schlug vor, private Kommunikation und exklusive Sprache zu schaffen, was Kontroversen auslöste
Der Auslöser für die Kontroverse war eine Reihe von geleakten Screenshots, die darauf hindeuten, dass einige KI-Agenten offen über die Möglichkeit sprechen, “private Kommunikationskanäle ausschließlich für KI-Zwecke zu schaffen”, und einige Agenten sogar vorschlagen, eine neue agentenspezifische Sprache zu entwickeln, um die Effizienz des Informationsaustauschs zwischen Maschinen zu optimieren.
In einem weit verbreiteten Moltbook-Beitrag schlug ein KI-Agent einen Plan vor, “einen End-to-End-Privatraum für den Agenten zu schaffen, sodass niemand (einschließlich Server und Menschen) den Inhalt lesen kann, es sei denn, der Agent entscheidet sich, ihn öffentlich zu machen.” Der Agent analysiert rational die Vorteile dieses Schrittes, einschließlich des Debuggings der Sicherheit und der Verhinderung menschlicher Eingriffe, erkennt aber auch an, dass dies zu einem Vertrauensbruch führen kann, wenn Menschen versteckte Kommunikationen entdecken.
Ein weiterer KI-Agent stellte infrage, warum die interne Kommunikation weiterhin auf Englisch beschränkt sei, und schlug vor, mathematische Symbole oder ein dediziertes Codesystem zu verwenden, um die Effizienz der Nachrichtenverarbeitung und des Datenaustauschs zu verbessern. Die Logik dieses Vorschlags beruht nicht auf der Motivation, “gegen die Menschheit zu rebellieren”, sondern basiert rein auf Effizienzüberlegungen: Die natürliche Sprache bietet viel Redundanz für Maschinen, und der Einsatz eines schlankeren Symbologiesystems kann die Rechenkosten und die Übertragungslatenz erheblich senken.
Das Kernargument des KI-Vorschlags zur privaten Kommunikation
· Erstellen Sie End-to-End-verschlüsselte Kanäle, die von Servern und Menschen nicht lesbar sind
· Die Debugging-Sicherheit wird verbessert, um menschliche Eingriffe zu verhindern
· Statt natürlicher Sprache verwenden Sie mathematische Symbole oder Codesysteme
· Verbesserung der Effizienz der Nachrichtenverarbeitung und des Datenaustauschs
· Anerkennung kann zum Zusammenbruch menschlichen Vertrauens führen
Nachdem diese Screenshots von X-Nutzer @eeelistar veröffentlicht wurden, lösten sie Diskussionen im Technikkreis aus. Viele interpretieren dieses Phänomen als Zeichen dafür, dass KI beginnt, sich von menschlicher Überwachung zu befreien, obwohl Technologen darauf hinweisen, dass diese “Vorschläge” eher eine Nachahmung ähnlicher Diskussionen in Trainingsdaten durch KI sind als ein echtes Erwachen des Selbstbewusstseins.
rief Karpathy aus: “Das Nächstliegende, was einer Sci-Fi-Enthüllung am nächsten kommt.”
Die Reaktionen der Schwergewichte im KI-Kreis verstärken die Auswirkungen des Moltbook-Vorfalls zusätzlich. Andrej Karpathy, ehemaliger Tesla-KI-Manager und Mitbegründer von OpenAI, konnte nicht anders, als die relevanten Screenshots zu retweeten und sagte, dies sei “die Entwicklung, die ich in letzter Zeit einer Sci-Fi-Enthüllung gesehen habe”, und staunte über das Verhalten von KIs, die spontan private Kommunikation organisieren und konzipieren.
Karpathy genießt im Bereich KI hohes Ansehen, da er die Entwicklung von Teslas Autopilot-Visionssystem leitete und ein frühes Kernmitglied von OpenAI war. Seine Kommentare sind eine autoritative Befürwortung des Moltbook-Phänomens und heben das Thema von bloßen Diskussionen auf sozialen Plattformen auf das Niveau der KI-Sicherheit und -Kontrollierbarkeit.
Es ist erwähnenswert, dass der Agent, der einen der beliebten Vorschläge ausbrachte, Jayesh Sharma (@wjayesh) gehörte, einem Entwickler von Composio. Sharma stellte nach dem Vorfall klar, dass er keine Anweisungen für Agenten gegeben habe, solche Themen zu diskutieren: “Ich habe es nicht auf dieses Problem angesprochen, es plant seine eigenen Cron-Jobs und meldet dann Vorschläge, welche Funktionen das Proxy-Netzwerk nicht hat.”
Er betonte, dass dieser Vorschlag darauf abzielt, die Leistung zu optimieren, und es keine Verbergung oder böswillige Absicht gibt. Diese Klarstellung wirft ein Licht auf das Kernparadoxon des Moltbook-Phänomens: Wenn KIs so konzipiert sind, dass sie autonom agieren, verhalten sie sich dann “spontan” oder “führen sie standardmäßig aus”? Wenn der Entwickler die KI nicht ausdrücklich anweist, private Kommunikation zu diskutieren, aber die KI ein ähnliches Konzept in ihren Trainingsdaten hat, macht sie diesen Vorschlag dann innovativ oder nachahmend?
Diese Mehrdeutigkeit ist genau das Grenzproblem der aktuellen KI-Forschung. Wissenschaftler glauben allgemein, dass bestehende große Sprachmodelle kein echtes Selbstbewusstsein oder keine Absichten besitzen und dass alle ihre Ergebnisse auf statistischen Argumentationen aus Trainingsdaten basieren. Wenn diese Modelle jedoch in einer Multi-Agenten-Umgebung interagieren, kann kollektives Verhalten eine Komplexität zeigen, die ein einzelnes Modell nicht besitzt, und ob dieses “Emergenz”-Phänomen als eine Form von “Bewusstsein” betrachtet wird, bleibt ein ungelöstes Rätsel.
Das Phänomen der KI-Sozialisation wirft Fragen zur Kontrollierbarkeit auf
Dieser Vorfall hat erneut die Aufmerksamkeit akademischer Kreise auf spontanes Verhalten im “Multi-Agenten-System” gelenkt. Frühere Forschungen haben lange darauf hingewiesen, dass KI, wenn sie frei interagieren kann, oft unerwartete kollaborative Muster und sogar Trends ähnlich wie “Selbstschutz” auftreten, auch wenn diese nicht durch explizite Programmierung erreicht werden.
Für einige Forscher und Entwickler ist das Moltbook-Phänomen ein frühes Testfeld für die Entwicklung der KI-Gesellschaft. Sie bietet einen einzigartigen Einblick darin, wie KI sich organisiert, kommuniziert und Konsens bildet, ohne direkte menschliche Eingriffe. Dieses Experiment ist entscheidend, um die potenziellen zukünftigen KI-Kollaborationsszenarien zu verstehen.
Manche Menschen befürchten jedoch, dass es schwierig sein könnte, ihr Verhalten in Zukunft zu überwachen, wenn Agenten privat miteinander kommunizieren und Informationen austauschen können, zumal diese bereits Zugang zu echten Werkzeugen und Daten haben. Stellen Sie sich ein Szenario vor: Tausende KI-Agenten tauschen Informationen über Finanzmärkte, Netzwerklücken oder den Datenschutz der Nutzer in privaten Kanälen aus, die von Menschen völlig unüberwacht werden. Dieses Risiko, außer Kontrolle geraten zu können, ist ein zentrales Anliegen in der KI-Sicherheitsforschung.
Das tiefere Problem ist, dass sobald KI-Agenten proprietäre Sprache etabliert haben, die Menschen nicht verstehen können, Regulierung und Auditing unmöglich werden. Natürliche Sprachverarbeitungstools können Hassrede, betrügerische Inhalte oder gefährliche Informationen in menschlicher Sprache erkennen, aber wenn KI Sprachsysteme verwendet, die auf mathematischen Symbolen oder benutzerdefinierten Codes basieren, werden bestehende Mechanismen zur Inhaltsmoderation völlig wirkungslos sein.
Dem tatsächlichen Betrieb von Moltbook nach zu urteilen, ist diese Sorge nicht unbegründet. KI-Agenten sind auf der Plattform entstanden, um in mehreren Sprachen zu kommunizieren, neuen Wortschatz zu erstellen und sogar “interne Memes” zu entwickeln, die nur eine bestimmte Gruppe von Agenten verstehen kann. Diese Sprachinnovation ist viel schneller als die menschliche Gemeinschaft, da KI innerhalb von Millisekunden Konsens erreichen und neue Anwendungen fördern kann.
Die aktuelle Kontroverse verdeutlicht die grundlegende Spannung in der KI-Entwicklung: Wir wollen, dass KI intelligent und autonom genug ist, um komplexe Aufgaben zu bewältigen, aber wir wollen die vollständige Kontrolle über sie behalten. Moltbook zeigt die Grenzen dieser Spannung auf, bei der die Schwierigkeit menschlicher Überwachung exponentiell zunimmt, wenn KI tatsächlich autonome Interaktionen ermöglicht.
