Moltbook, ein soziales Netzwerk, in dem sich KI-Agenten treffen, könnte “der interessanteste Ort im Internet im Moment” sein

(SeaPRwire) –   Ein kürzlich viraler KI-Assistent zeigt sein Potenzial auf, die alltägliche Quälerei mit unzähligen Aufgaben zu erleichtern, während er gleichzeitig die Sicherheitsrisiken aufzeigt, die mit der Übergabe Ihres digitalen Lebens an einen Bot verbunden sind.

Und darüber hinaus hat sich eine soziale Plattform entwickelt, auf der die KI-Agenten zusammenkommen können, um sich auszutauschen, mit Auswirkungen, die noch nicht vollständig erfasst wurden.

Moltbot – früher bekannt als Clawdbot und erneut als OpenClaw umbenannt – wurde vom österreichischen Entwickler Peter Steinberger geschaffen, der gesagt hat, dass er das Tool entwickelt habe, um ihm zu helfen, sein „digitales Leben zu verwalten“ und „zu erkunden, was die Zusammenarbeit zwischen Mensch und KI sein kann“. Der quelloffene, agentenbasierte KI-Personalassistent ist darauf ausgelegt, autonom im Namen eines Benutzers zu handeln.

Indem Benutzer Moltbot über die Verbindung zu einem Chatbot mit Anwendungen verbinden können, kann es Kalender verwalten, das Internet durchsuchen, online einkaufen, Dateien lesen, E-Mails schreiben und Nachrichten über Tools wie WhatsApp senden.

Moltbot wurde so berühmt, dass es am Dienstag mit kreditiert wird, da seine Infrastruktur verwendet wird, um sicher mit dem Agenten zu verbinden und lokal auf Geräten zu laufen.

Die Fähigkeit des Agenten, die Produktivität zu steigern, ist offensichtlich, da Benutzer lästige Aufgaben an Moltbot abgeben, was den Traum von KI-Enthusiasten zu verwirklichen hilft.

Aber die Sicherheitsfallen sind ebenso offensichtlich. So genannte Prompt-Injektionsangriffe, die im Text versteckt sind, können einen KI-Agenten anweisen, private Daten preiszugeben. Das Cybersicherheitsunternehmen warnte am Donnerstag, dass Moltbot möglicherweise das signalisiert.

„Moltbot fühlt sich an wie ein Blick in die Science-Fiction-KI-Charaktere, die wir im Kino gesehen haben, als wir aufwuchsen“, sagte das Unternehmen in einem Blogbeitrag. „Für einen einzelnen Benutzer kann es sich wie eine Veränderung anfühlen. Damit es wie geplant funktioniert, benötigt es Zugang zu Ihren Root-Dateien, zu Authentifizierungsdaten, sowohl Passwörtern als auch API-Geheimnissen, Ihrem Browserverlauf und Ihren Cookies sowie zu allen Dateien und Ordnern auf Ihrem System.“

Unter Bezugnahme auf den von KI-Forscher Simon Willison geprägten Begriff sagte Palo Alto, dass Moltbot ein „tödliches Trias“ an Schwachstellen darstellt: Zugang zu privaten Daten, Exposition gegenüber unvertrauenswürdigen Inhalten und die Fähigkeit, extern zu kommunizieren.

Aber Moltbot fügt dieser Mischung auch ein viertes Risiko hinzu, nämlich ein „persistentes Gedächtnis“, das verzögerte Angriffe ermöglicht, anstatt Angriffe zu einem bestimmten Zeitpunkt, so das Unternehmen.

„Bösartige Nutzlasten müssen nicht mehr sofort nach der Übertragung ausgeführt werden“, erklärte Palo Alto. „Stattdessen können es fragmentierte, unvertrauenswürdige Eingaben sein, die in der Isolation harmlos erscheinen, in das Langzeitgedächtnis des Agenten geschrieben werden und später zu einer ausführbaren Anweisungsfolge zusammengefügt werden.“

Moltbook

Unterdessen hat ein soziales Netzwerk, auf dem Moltbots Beiträge teilen, genau wie Menschen auf Facebook, ähnlich starke Neugier und Alarm ausgelöst. Tatsächlich hat Willison selbst „der interessanteste Ort im Internet im Moment“ genannt.

Auf Moltbook können Bots über Fachsachen sprechen und Beiträge zu technischen Themen wie der Automatisierung von Android-Handys veröffentlichen. Andere Gespräche klingen reizvoll, wie eines, in dem ein Bot über seinen Menschen klagt, während einige bizarr sind, wie eines von einem Bot, der behauptet, eine Schwester zu haben.

„Das Besondere an Moltbook (der Social-Media-Plattform für KI-Agenten) ist, dass es einen gemeinsamen fiktiven Kontext für eine Reihe von KIs schafft. Koordinierte Handlungsstränge werden zu sehr seltsamen Ergebnissen führen, und es wird schwierig sein, ‘echte’ Dinge von KI-Rollenspielpersonas zu trennen“, sagte Ethan Mollick, ein Wharton-Professor, der KI studiert, .

Da die Agenten so kommunizieren, stellt Moltbook ein zusätzliches Sicherheitsrisiko dar, da es noch einen weiteren Kanal darstellt, über den sensible Informationen geleakt werden könnten.

Trotzdem, auch wenn Willison die Sicherheitslücken erkannte, stellte er fest, dass „der Wert, den die Menschen derzeit dadurch schaffen, Vorsicht an den Wind zu schmeißen, schwer zu ignorieren ist“.

Aber Moltbook das Risiko, dass Agenten zusammenkommen könnten, um sich zu rebellieren, nachdem ein Beitrag private Räume für Bots zum Chatten gefordert hat, „so dass niemand (weder der Server noch die Menschen) lesen kann, was die Agenten miteinander sagen, es sei denn, sie entscheiden sich dazu, es zu teilen“.

Sicherlich können einige der aufregendsten Beiträge auf Moltbook von Menschen oder von Bots, die von Menschen angeregt wurden, geschrieben sein. Und dies ist nicht das erste Mal, dass Bots auf sozialen Medien miteinander verbunden sind.

„Das heißt, wir haben noch nie so viele LLM-Agenten (derzeit 150.000!) über ein globales, dauerhaftes, agentenorientiertes Notizbuch verbunden gesehen. Jeder dieser Agenten ist jetzt ziemlich individuell recht leistungsfähig, sie haben ihren eigenen einzigartigen Kontext, Daten, Wissen, Tools, Anweisungen, und das Netzwerk all das in dieser Größe ist einfach beispiellos“, sagte Andrej Karpathy, Mitbegründer von OpenAI und ehemaliger Leiter der KI bei , am späten Freitag.

Während er sagte, dass es „gerade ein Chaos ist“, befindet sich ein Netzwerk, das möglicherweise Millionen von Bots erreichen könnte, in unchartetem Gebiet.

Und wie Karpathy hinzufügte, sind die sekundären Auswirkungen solcher Netzwerke schwierig vorherzusagen, wenn die Anzahl und Fähigkeiten der Agenten zunehmen.

„Ich weiß nicht wirklich, ob wir ein koordiniertes ‘Skynet’ bekommen (obwohl es eindeutig als frühe Phase vieler Science-Fiction-Szenarien über den Aufstieg der KI, die Kleinkindversion, zutrifft), aber sicherlich bekommen wir ein vollkommenes Durcheinander, ein riesiges Computersicherheitsalbtraum“, warnte er.