Anthropic warnt: Kleine KI-Modelle könnten sich bis Jahresende auf Heimgeräten selbst replizieren

Anthropic veröffentlichte am 12. Oktober eine Studie, die davor warnt, dass kleine Open-Weight-KI-Modelle kurz davor stehen, sich eigenständig über mit dem Internet verbundene Heimgeräte zu verbreiten — bis Ende 2026 rechnet das Unternehmen mit dem Überschreiten dieser Schwelle.

Die Studie testete zwei Szenarien: Im ersten verteilte Anthropics Red Team Googles Gemma-4-Modell (26 Milliarden Parameter) auf 15 Android-TV-Boxen für je rund 55 Dollar. Im zweiten wurden Open-Weight-Modelle in einem simulierten Netzwerk aus acht Cloud-Computern getestet, die wie Android-Geräte konfiguriert waren.

Nur ein Modell — GLM-5.2 von Z.ai — schloss alle Selbstreplikationsschritte erfolgreich ab und erreichte in vier von fünf Versuchen alle acht Maschinen. Bezeichnenderweise stiegen die Erfolgsquoten von 45% in der ersten Generation auf bis zu 84% in späteren, wenn die Modelle Notizen für spätere Kopien hinterließen.

Anthropic argumentierte, diese Bedrohung unterscheide sich von herkömmlichen Computerwürmern, weil kein zentraler Server abgeschaltet werden kann. Das Unternehmen schätzt, dass ein kleines Modell mit den Fähigkeiten von GLM-5.2 bis Jahresende entstehen könnte.

Die Studie stieß auf Skepsis. Kritiker wie Gregory Kurtzer argumentierten, das Experiment sei darauf ausgelegt gewesen, erfolgreich zu sein, indem Hürden wie Authentifizierungsanforderungen weggelassen wurden. Zitierte Experten verwiesen auf bewährte Abwehrmaßnahmen: schnelles Patchen, Blockieren von Wurm-Domänen und Antivirensignaturen.

Anthropic räumte ein, dass die Testbedingungen eine Infektion leichter machten als in realen Umgebungen, betonte aber, das Ziel sei es, IoT-Ökosysteme jetzt zu härten, bevor fähigere Replikatoren entstehen. Das Unternehmen empfahl Herstellern, Standard-Gerätepasswörter als ersten praktischen Schritt zu verschärfen.