Google verklagt chinesische Cyberkriminelle, die Gemini zum Erstellen von Phishing-Seiten nutzten

Google hat am 12. Juni eine wegweisende Klage vor einem Bundesgericht in New York gegen ein in China ansässiges Cyberkriminalitätsnetzwerk eingereicht, das es als Outsider Enterprise identifiziert. Die Klage wirft der Gruppe vor, eine hochentwickelte Phishing-as-a-Service (PhaaS)-Plattform betrieben zu haben, mit der Google, YouTube, die US-Post, Mautsysteme von E-ZPass, Finanzinstitute und staatliche Kraftfahrzeugbehörden (DMVs) nachgeahmt wurden. Zudem sollen Mitglieder des Netzwerks systematisch Googles eigene KI Gemini genutzt haben, um den HTML-Code für die betrügerischen Seiten zu schreiben. Es ist das erste Mal, dass Google rechtliche Schritte gegen Bedrohungsakteure speziell wegen des Missbrauchs seiner KI-Plattform eingeleitet hat.

Das FBI schätzt, dass das Netzwerk Outsider Enterprise seit seinem ersten Auftreten im Juli 2023 3,87 Millionen Kreditkartennummern gestohlen und Schäden in Höhe von rund 1,9 Milliarden US-Dollar verursacht hat. In einem einzigen zweiwöchigen Zeitraum im Mai 2026 verschickte die Gruppe 2,5 Millionen Phishing-SMS an Android-Nutzer in den USA; diese Nutzer reichten in diesem Zeitraum 55.000 Spam-Meldungen ein. Insgesamt identifiziert die Klage von Google mehr als 9.000 gefälschte Websites und rund 1 Million betrügerische URLs, die im Laufe der Betriebsgeschichte mit dem Netzwerk in Verbindung stehen.

Wie die Gruppe Gemini nutzte

Laut der Klage von Google und den von ihr geprüften internen Kommunikationen entwickelten die Mitglieder von Outsider Enterprise die Praxis, Gemini mit als harmlos getarnten Aufforderungen zu füttern – etwa mit der Bitte, „Geschenkeinlösungs“-Seiten, Treueportale und Kundendienstformulare zu erstellen – und den generierten HTML-Code dann direkt in die Outsider-Softwaresuite einzuspeisen. Die Plattform verwandelte diese Seiten innerhalb weniger Stunden in eine einsatzbereite Betrugsinfrastruktur. Von der Gruppe genutzte Telegram-Kanäle enthielten explizite Anleitungen zur Verwendung von Gemini zur Generierung von Phishing-Seitencodes, wobei die Mitglieder funktionierende Aufforderungen und Fehlerbehebungssitzungen austauschten.

Dies ist ein dokumentierter Fall dessen, was Sicherheitsforscher als „Jailbreak-adjacent“-Missbrauch bezeichnen: nicht die Sicherheitsfilter des Modells mit konfrontativen Aufforderungen zu umgehen, sondern bösartige Anfragen als harmlos zu tarnen und die Erstellungsarbeit an eine KI auszulagern, die keine Möglichkeit hatte, die beabsichtigte Verwendung zu bewerten. Wenn Gemini gebeten wird, eine überzeugende USPS-Zustellungsbenachrichtigungsseite zu erstellen, erstellt es eine überzeugende USPS-Zustellungsbenachrichtigungsseite. Die kriminelle Anwendung ist einen Schritt von der Ausgabe des Modells entfernt.

Google gibt an, die nachweislich mit dem Schema verbundenen Gemini-Konten und die Infrastruktur deaktiviert zu haben. Das Unternehmen arbeitet außerdem mit dem FBI und den drei größten US-Mobilfunkanbietern – AT&T, T-Mobile und Verizon – zusammen, um die Nachrichten auf Netzwerkebene zu blockieren und die unterstützende Infrastruktur abzuschalten.

Die rechtliche Strategie: Zivilgerichte zur Störung krimineller Netzwerke nutzen

Googles Entscheidung, eine Zivilklage einzureichen, anstatt sich ausschließlich auf Strafverfolgungsbehörden zu verlassen, ist bewusst getroffen. Das Unternehmen hat dieselbe Strategie bereits zuvor angewandt: 2023 verklagte es Betreiber eines Botnetzes, das die Google-Infrastruktur für Credential Stuffing nutzte; 2021 verklagte es zwei russische Staatsangehörige hinter einem Botnetz, das auf Google Play abzielte. Zivilgerichte geben Google direkten Zugang zu einstweiligen Verfügungen – Anordnungen, die Hosting-Anbieter, Domain-Registrare und Finanzdienstleister zur Zusammenarbeit bei der Stilllegung der Infrastruktur verpflichten – ohne auf einen strafrechtlichen Ermittlungszeitraum warten zu müssen, der sich über Jahre erstrecken kann.

Die Klage nennt fünf John-Doe-Beklagte, da die Identitäten einzelner Betreiber von Outsider Enterprise nicht öffentlich bekannt sind. Das Netzwerk operiert über Telegram-Kanäle, wobei Partnerbetreiber – Kriminelle, die Zugang zum PhaaS-Kit kaufen – über mehrere Jurisdiktionen verteilt sind. Die Klage wurde beim Southern District of New York eingereicht, der für einen Teil der durch die Operation verursachten finanziellen Schäden zuständig ist.

Gleichzeitig unterstützt Google im Kongress sieben überparteiliche Gesetzesentwürfe im Zusammenhang mit KI-gestütztem Betrug. Der bedeutendste ist der Stop SCAMS Act, der von den Abgeordneten Brian Fitzpatrick (R-PA) und Josh Harder (D-CA) vorangetrieben wird. Dieses Gesetz würde eine nationale koordinierte Strategie schaffen, die Strafverfolgungsbehörden, Regierungsstellen und den Privatsektor zur Bekämpfung transnationaler Cyberkriminalitätsringe vereint. Die Gesetzgebung würde Plattformen auch dazu verpflichten, Bedrohungsinformationen über KI-gestützten Betrug auf eine Weise auszutauschen, zu der sie derzeit nicht gesetzlich verpflichtet sind.

Das Ausmaß von KI-gestütztem Phishing

Outsider Enterprise ist aufgrund der Gemini-Verbindung und der direkten Beteiligung von Google als Ziel und Kläger ungewöhnlich gut dokumentiert. Es ist jedoch als Bedrohungskategorie nicht ungewöhnlich. Sicherheitsforscher haben in den letzten 18 Monaten eine Zunahme der KI-gestützten Phishing-Infrastruktur verfolgt. Das Muster ist konsistent: KI-Tools – sowohl kommerzielle Modelle wie Gemini und Claude als auch Open-Source-Alternativen ohne Nutzungsbedingungen – senken die erforderlichen Fähigkeiten zur Erstellung überzeugender Phishing-Inhalte und beschleunigen den Bereitstellungszyklus für neue Vorlagen, wenn eine Zielmarke ihr visuelles Design ändert.

Die Klage gegen Outsider Enterprise gibt an, dass das Netzwerk eine Bibliothek mit über 290 vorgefertigten Vorlagen für bekannte Marken unterhielt. Die Pflege dieser Vorlagenbibliothek erforderte zuvor jemanden, der HTML und CSS schreiben, Markenrichtlinien verstehen und Vorlagen aktualisieren konnte, wenn Marken ihre Webpräsenz neu gestalteten. Mit Gemini werden diese Aufgaben zu Aufforderungsaufgaben. Die Hürde sinkt weiter, und die Operation wird widerstandsfähiger – da die Fähigkeit zur Vorlagenerstellung auf jedes Mitglied mit einem Gemini-Konto verteilt ist, anstatt auf einige wenige qualifizierte Entwickler konzentriert zu sein.

Für Nutzer bleibt die praktische Auswirkung unverändert: Smishing-Nachrichten – Phishing per SMS –, die Links zu gefälschten USPS-Zustellungsbenachrichtigungen, Zahlungserinnerungen für Mautgebühren oder Banksicherheitswarnungen enthalten, sollten unabhängig davon, wie professionell sie aussehen, sofort mit Misstrauen behandelt werden. Die visuelle Qualität einer Phishing-Seite ist kein zuverlässiges Zeichen mehr für ihre Echtheit; KI-generierte Seiten können von echten nicht zu unterscheiden sein.

Was die Klage bewirken kann und was nicht

Zivilklagen dieser Art haben eine gemischte Bilanz. Googles Botnetz-Klage von 2023 führte zur erfolgreichen Stilllegung der Infrastruktur, aber die einzelnen Betreiber wurden nie identifiziert oder strafrechtlich verfolgt. Kriminelle Akteure, die von China aus operieren, stellen zusätzliche Herausforderungen dar: US-Gerichte können Anordnungen erlassen, aber die Durchsetzung gegen Einzelpersonen in einer Jurisdiktion ohne US-Auslieferungsabkommen hängt davon ab, ob diese Personen jemals in Länder reisen, die mit US-Rechtsverfahren kooperieren.

Was die Klage zuverlässig bewirkt: Sie zwingt in den USA ansässige Infrastrukturanbieter – Hosting-Unternehmen, CDNs, Zahlungsabwickler – zur Zusammenarbeit bei der Stilllegung der in der Klage genannten spezifischen Infrastruktur. Sie schafft einen rechtlichen Präzedenzfall, der in zukünftigen Fällen genutzt werden kann. Und sie sendet ein klares öffentliches Signal, dass Google bereit ist, KI-Missbrauch als Auslöser für Klagen zu behandeln und nicht nur als politische Angelegenheit, was für Bedrohungsakteure, die auf operative Sicherheitskosten achten, eine abschreckende Wirkung haben könnte.

Die langfristige Frage ist struktureller Natur. PhaaS-Plattformen wie Outsider Enterprise existieren, weil die Ökonomie des Phishings weiterhin günstig ist: Die Kosten für den Betrieb einer Operation sind niedrig, die potenziellen Erträge aus gestohlenen Zugangsdaten und Kartennummern sind hoch, und das rechtliche Risiko – insbesondere für Betreiber in nicht kooperierenden Jurisdiktionen – ist überschaubar. KI macht diese Ökonomie noch günstiger, indem sie die erforderlichen Fähigkeiten der Betreiber reduziert. Eine Klage befasst sich mit einem Einzelfall; das Geschäftsmodell, das sie ausnutzt, wird durch eine gerichtliche Anordnung nicht geändert.

Quelle: Klageschrift Google (SDNY), FBI-Pressemitteilung, Help Net Security, The Next Web, Decrypt, Cybersecurity News, 12.–13. Juni 2026.