Wie KI-generierter Spam die Open-Source-Welt unter Druck setzt
Ein zurückgezogener Artikel, ein belästigter Maintainer und ein Ökosystem am Limit: Die Schattenseiten der KI-Revolution treffen Open Source ins Mark. Was gerade passiert, sollte uns alle beunruhigen.
Ein Wochenende, das vieles offenlegte
Am vergangenen Wochenende musste die Tech-Nachrichtenseite Ars Technica einen Artikel zurückziehen. Der Grund: Ein Autor hatte sich auf KI-gestützte Recherche verlassen, und das Sprachmodell hatte kurzerhand Zitate eines Open-Source-Maintainers frei erfunden. Die Ironie dabei ist kaum zu überbieten — denn besagter Maintainer, Daniel Stenberg (curl) beziehungsweise der ebenfalls betroffene Scott Shambaugh, standen ohnehin bereits unter Beschuss: nicht von Menschen, sondern von KI-Agenten, die automatisiert minderwertigen Code als Pull Requests einreichten.
Jeff Geerling, einer der bekanntesten Stimmen der Open-Source- und Homelab-Community, hat diese Entwicklung in einem aktuellen Video scharf kommentiert — und seine Analyse trifft einen Nerv.
Das Problem heißt AI Slop
Der Begriff "AI Slop" hat sich in der Entwickler-Community als Bezeichnung für minderwertigen, KI-generierten Output etabliert — ob Code, Bug-Reports oder Pull Requests. Und genau dieser Slop flutet derzeit Open-Source-Projekte auf GitHub.
Daniel Stenberg, der seit Jahrzehnten das allgegenwärtige Kommandozeilen-Tool curl pflegt, sah sich gezwungen, sein Bug-Bounty-Programm einzustellen. Der Grund: Die Quote tatsächlich nützlicher Vulnerability Reports sank von ohnehin mageren 15 Prozent auf nur noch 5 Prozent. Der Rest? KI-generierter Müll von Nutzern, die mit minimalem Aufwand Prämien abgreifen wollen. Stenberg berichtet zudem von einer zunehmend anspruchsvollen Haltung dieser Einreicher — obwohl sie keinerlei echte Arbeit geleistet haben.
Geerling selbst betreut über 300 Open-Source-Projekte und bestätigt den Trend aus eigener Erfahrung. Die Situation ist mittlerweile so ernst, dass GitHub eine Funktion eingeführt hat, mit der sich Pull Requests komplett deaktivieren lassen. Ausgerechnet Pull Requests — das Feature, das GitHub einst groß gemacht hat, weil es die Zusammenarbeit an Code so einfach wie nie zuvor machte.
Wenn die Werkzeuge gegen ihre Nutzer arbeiten
Besonders brisant: Das Tool OpenClaw, ein Framework für agentenbasierte KI-Systeme, wurde kürzlich veröffentlicht — und sein Entwickler anschließend von OpenAI eingestellt, um "Agents für alle" zu bauen. Damit wird genau die Technologie, die bereits jetzt für automatisierten Spam sorgt, noch breiter zugänglich gemacht.
Das Kernproblem liegt in einer gefährlichen Asymmetrie: KI-generierter Code lässt sich in Sekunden erzeugen, aber die menschliche Überprüfung dieses Codes kostet nach wie vor Zeit, Energie und Expertise. Open-Source-Maintainer — oft Einzelpersonen oder kleine Teams ohne Budget — stehen einer potenziell unbegrenzten Flut automatisierter Beiträge gegenüber. Die Ressourcen der KI-Unternehmen sind dabei praktisch unbegrenzt; die der Maintainer definitiv nicht.
Nützlich, aber kein Wundermittel
Geerling betont dabei ausdrücklich, dass KI-gestützte Codegenerierung durchaus ihren Platz hat. Er selbst nutzte lokale Open-Source-Modelle, um seinen Blog von Drupal zu Hugo zu migrieren. Der entscheidende Punkt: KI ist hilfreich, wenn man weiß, was man tut. Sie ersetzt keine Fachkompetenz, und die Fortschritte der letzten Monate sind bei weitem nicht so dramatisch, wie die Marketingabteilungen der großen KI-Firmen suggerieren.
Den Vorschlag, einfach auch die Code-Reviews durch KI erledigen zu lassen, weist er entschieden zurück. Für ein Hobby-Projekt im Homelab mag das vertretbar sein. Für produktive Software, von der Unternehmen, Infrastruktur oder gar Menschenleben abhängen, ist ungeprüfter KI-Code schlicht inakzeptabel.
Parallelen zum Krypto-Hype
Geerling zieht eine Parallele, die unbequem, aber treffend ist: Die aktuelle KI-Euphorie erinnere stark an den Krypto- und NFT-Boom — mit denselben Anzeichen irrationalen Überschwangs. Der Unterschied sei lediglich, dass LLMs und Machine Learning tatsächlich nützliche Anwendungsfälle haben, was es Trittbrettfahrern und Betrügern leichter mache, sich hinter legitimem Nutzen zu verstecken.
Als weiteres Warnsignal nennt er die aktuelle Festplattenknappheit: Western Digital hat seine gesamte Produktion für 2025 bereits verkauft und nimmt Vorbestellungen bis 2028 entgegen — getrieben durch den enormen Speicherbedarf von KI-Rechenzentren.
Die eigentliche Frage
Die Entwicklung wirft eine grundsätzliche Frage auf, die über Open Source hinausgeht: Wie viel Kollateralschaden sind wir bereit zu akzeptieren, bevor KI-Unternehmen Verantwortung für die Folgen ihrer Produkte übernehmen müssen?
Open-Source-Software bildet das Fundament unserer digitalen Infrastruktur. Wenn diejenigen, die diese Software pflegen, unter einer Lawine automatisierten Mülls begraben werden, betrifft das am Ende uns alle.
Quelle: Jeff Geerling
