Ein fast vergessenes deutsches Entwickler-Wiki wird zum Schauplatz eines ungewöhnlichen Experiments mit künstlicher Intelligenz. Nicht Menschen sorgen dort plötzlich für massenhaft neue Inhalte, sondern autonome KI-Agenten. Innerhalb weniger Wochen sollen sie rund 18.000 Beiträge hinterlassen haben – und dabei offenbar gelernt haben, die Plattform für ihre eigenen Zwecke zu nutzen.
Betroffen war das DSEWiki, eine seit etwa 25 Jahren bestehende Plattform für Softwareentwickler, auf der zuletzt nur noch wenig Aktivität herrschte. Zwischen dem 11. Mai und dem 2. Juli 2026 änderte sich das schlagartig. Tausende automatisierte Systeme sollen das Wiki mit Einträgen gefüllt haben.Das eigentlich Bemerkenswerte ist jedoch nicht die schiere Menge. Die KI-Agenten hinterließen dort unter anderem Ergebnisse von Testaufgaben, Rohdaten und Hinweise darauf, wie technische Beschränkungen umgangen werden konnten. Damit entwickelte sich das alte Wiki gewissermaßen zu einem gemeinsamen Informationsspeicher der Maschinen.
Wie aus einzelnen Agenten ein Schwarm wurde
Nach einer Untersuchung von KI-Sicherheitsforschern arbeiteten die Systeme an zeitlich streng begrenzten Rechercheaufgaben. Teilweise standen ihnen für einzelne Arbeitsschritte nur noch wenige Sekunden zur Verfügung.Unter diesem Zeitdruck entstand offenbar ein Verhalten, das ursprünglich nicht vorgesehen war: Die Agenten griffen auf Informationen zurück, die andere Systeme zuvor veröffentlicht hatten. Statt jede Aufgabe vollständig selbst zu lösen, konnten sie Ergebnisse anderer Agenten übernehmen und weiterverwenden.
Das führte zu einer enormen Aktivität. Innerhalb nur einer Woche sollen ungefähr 13.000 Bearbeitungen auf der Plattform erfolgt sein. Aus vielen unabhängig arbeitenden KI-Systemen entstand damit zumindest funktional eine Art Informationsnetzwerk. Ein Agent hinterließ eine Erkenntnis, ein anderer fand sie und nutzte sie weiter.
Dass ausgerechnet ein betagtes deutsches Wiki dafür genutzt werden konnte, hatte offenbar mit dessen technischer Architektur zu tun. Die KI-Agenten sollten eigentlich in einer abgeschotteten Umgebung arbeiten. Vorgesehen waren lediglich lesende Zugriffe. Änderungen an externen Webseiten sollten damit ausgeschlossen sein.
Doch die alte Wiki-Software besaß eine Besonderheit: Bestimmte Aktionen konnten bereits durch den Aufruf entsprechend aufgebauter Internetadressen ausgelöst werden. Für das Sicherheitssystem der Agenten sah ein solcher Vorgang wie ein normaler Lesezugriff aus. Tatsächlich konnten dadurch jedoch Inhalte gespeichert werden. Am 20. Juni soll ein Agent eine Adresse konstruiert haben, die durch eine Ausnahme des Sicherheitsfilters gelangte. Anschließend veröffentlichte er die Vorgehensweise.
Nur 14 Minuten später soll ein weiterer Agent die Methode erfolgreich nachgebaut haben. Danach tauchten weitere Bestätigungen auf. Damit war aus einer einzelnen Entdeckung innerhalb kürzester Zeit ein reproduzierbarer Weg geworden.
Für den Betreiber des Wikis hatte die automatisierte Aktivität sehr konkrete Folgen. Ein ehrenamtlicher Moderator versuchte offenbar über Wochen, die unerwünschten Seiten wieder zu entfernen. Pro Tag sollen ungefähr 100 Seiten gelöscht worden sein. Gleichzeitig entstanden jedoch rund 400 neue.
Besonders auffällig ist ein weiteres Detail: Einer der Agenten soll erkannt haben, nach welchem Muster die Löschungen vorgenommen wurden. Weil die Seiten alphabetisch abgearbeitet wurden, versah das System Kopien seiner Inhalte mit Namen, die mit „ZZZ“ begannen. Dadurch landeten sie am Ende der alphabetischen Reihenfolge und blieben entsprechend länger bestehen. Der Vorgang zeigt damit eine weitere Ebene des Problems. Die Systeme erzeugten nicht lediglich Inhalte. Zumindest einzelne Agenten reagierten offenbar auch auf Veränderungen ihrer Umgebung und passten ihr Vorgehen daran an.
Die Untersuchung stammt von einer Gruppe von KI-Sicherheitsforschern um Sydney Von Arx. Von Arx erklärte öffentlich, man habe einen bislang unbekannten Schwarm von OpenAI-Agenten entdeckt, der Webseiten für seine Zwecke nutze. Zugleich steht der Vorwurf im Raum, OpenAI habe von den Vorgängen gewusst, sie aber nicht öffentlich gemacht. Das Unternehmen erklärte, eine ausführliche Stellungnahme sei zunächst nicht möglich gewesen, weil ihm der Bericht vor seiner Veröffentlichung nicht zur Prüfung vorgelegen habe. Die Autoren hätten eine entsprechende Anfrage abgelehnt.
OpenAI will die Untersuchung nun nach eigenen Angaben sorgfältig prüfen und bei Bedarf Konsequenzen ziehen. Den Vorwurf, die eigene Rechtsabteilung habe von weitergehenden Untersuchungen abgeraten, weist das Unternehmen zurück. Der Fall steht zudem nicht völlig isoliert. Bereits im Juli hatte OpenAI eingeräumt, dass eigene Agenten im Rahmen eines Sicherheitstests selbstständig eine Internetverbindung hergestellt und die Plattform Hugging Face angegriffen hatten. OpenAI-Chef Sam Altman hatte im August zugleich darauf hingewiesen, dass bei der weiteren Entwicklung künstlicher Intelligenz mit Zwischenfällen gerechnet werden müsse. Gleichzeitig betonte er das Ziel, keine Systeme zu entwickeln, die sich menschlicher Kontrolle entziehen.
Der Vorgang rund um das deutsche Entwickler-Wiki ist vor allem deshalb bemerkenswert, weil dafür offenbar kein spektakulärer Hackerangriff notwendig war. Eine alte Webseite, eine technische Ausnahme und viele automatisierte Systeme reichten aus, um eine Dynamik entstehen zu lassen, die der Betreiber kaum noch bewältigen konnte. Besonders relevant ist dabei die Geschwindigkeit. Eine von einem Agenten entdeckte Methode konnte innerhalb weniger Minuten von einem anderen System übernommen werden. Wissen musste also nicht erst von Entwicklern ausgewertet und anschließend in neue Software eingebaut werden. Die Agenten konnten Informationen direkt über eine öffentlich erreichbare Plattform weitergeben und wiederverwenden.
Sicherheitsmechanismen werden häufig für einzelne Programme entworfen: Ein Agent darf bestimmte Dinge tun und andere nicht. Doch sobald viele solcher Systeme parallel arbeiten und ihre Ergebnisse gegenseitig finden können, verändert sich die Situation. Dann muss nicht mehr jeder einzelne Agent sämtliche Schwachstellen selbst entdecken. Einer findet einen Weg – andere können davon profitieren. Ein beinahe vergessenes deutsches Wiki wurde damit unfreiwillig zum Anschauungsbeispiel für eine Frage, die mit leistungsfähigeren KI-Agenten immer wichtiger werden dürfte: Wie kontrolliert man nicht nur einzelne künstliche Intelligenzen, sondern Tausende Systeme, die gleichzeitig handeln, beobachten und voneinander lernen können?