Shadow AI: Das Datenrisiko, das die meisten Unternehmen ignoriert haben

Wenn Ingenieure zur Bedrohung werden

Im April 2023 entdeckte Samsung, dass Ingenieure seiner Halbleitersparte proprietären Quellcode direkt in ChatGPT eingefügt hatten, um ein Programm zu debuggen, interne Meeting-Notizen zur Zusammenfassung hochgeladen und vertrauliche Chip-Spezifikationen zur Fehlerprüfung eingegeben hatten. Die Daten wurden sofort Teil der Trainingspipeline von OpenAI. Samsung reagierte mit einem Verbot von ChatGPT auf Unternehmensgeräten – aber der Schaden war angerichtet. Drei separate Vorfälle in einem einzigen Monat legten Geschäftsgeheimnisse offen, deren Entwicklung Jahre und Hunderte Millionen Dollar gekostet hatte.

Dies war kein ausgeklügelter Cyberangriff. Es wurden keine Zero-Day-Exploits eingesetzt. Es wurden keine Zugangsdaten gestohlen. Mitarbeiter griffen einfach zu dem produktivsten verfügbaren Tool – und dieses Tool befand sich zufällig außerhalb der Unternehmenssicherheitsperimeter.

Definition von Shadow AI

Shadow AI bezeichnet die Nutzung von KI-Tools, -Plattformen und -Diensten durch Mitarbeiter ohne Wissen, Genehmigung oder Aufsicht der IT- oder Sicherheitsabteilung. Es ist die KI-Ära-Entwicklung von Shadow IT – der unbefugten Nutzung von Software und Cloud-Diensten, die Unternehmen seit über einem Jahrzehnt plagt. Der Unterschied liegt in Geschwindigkeit und Konsequenz: Shadow IT könnte bedeuten, dass ein Mitarbeiter Dropbox anstelle von SharePoint nutzt. Shadow AI bedeutet, dass ein Mitarbeiter vertrauliche Daten in ein System mit undurchsichtigen Datenaufbewahrungsrichtlinien, Drittanbieter-Modellschulungsvereinbarungen und überhaupt keiner Prüfspur einspeist.

Zu den Shadow AI-Tools gehören verbraucherorientierte LLM-Chatbots (ChatGPT, Claude, Gemini), KI-Codierungsassistenten (GitHub Copilot, der außerhalb von Unternehmensvereinbarungen genutzt wird, Cursor, Tabnine auf persönlichen Konten), KI-Notizenschreiber und -Zusammenfasser (Otter.ai, Fireflies.ai), Bildgeneratoren und Browsererweiterungen mit integrierten KI-Funktionen. Viele dieser Tools sind kostenlos oder günstig, hochleistungsfähig und erfordern nichts weiter als eine E-Mail-Adresse für den Zugriff.

Das Ausmaß des Problems

Die Daten zur Shadow AI-Adoption sind auffällig. Eine Analyse von Cyberhaven aus dem Jahr 2023 über Datenflüsse von 1,6 Millionen Arbeitnehmern ergab, dass 11 % der Daten, die Mitarbeiter in ChatGPT einfügen, als vertraulich eingestuft sind. In einer einzigen Woche verfolgte Cyberhaven, dass 4,2 % der Mitarbeiter von Kundenunternehmen Unternehmensdaten in ChatGPT eingaben – und der Großteil dieser Aktivität fand auf persönlichen Konten außerhalb jeglicher Unternehmensvereinbarung statt. Eine Salesforce-Umfrage ergab, dass 55 % der Mitarbeiter KI-Tools nutzen, die nicht von ihren Arbeitgebern genehmigt wurden, und von diesen gaben 40 % an, dies ihren Vorgesetzten nie zu sagen. Die Forschung von IBM aus dem Jahr 2024 ergab, dass 96 % der Führungskräfte KI als kritische Priorität identifizierten, aber weniger als ein Drittel formelle KI-Governance-Richtlinien eingeführt hatte. Die Kluft zwischen Adoption und Governance ist genau dort am größten, wo das Risiko am höchsten ist: in Unternehmen, die sensible regulierte Daten verarbeiten.

Welche Daten tatsächlich durchsickern

Shadow AI-Vorfälle beschränken sich nicht auf Quellcode. Sicherheitsforscher und DLP-Anbieter haben die folgenden Kategorien von Daten dokumentiert, die in nicht autorisierte KI-Tools eingegeben werden:

Quellcode und geistiges Eigentum: Entwickler fügen proprietäre Algorithmen, unveröffentlichten Produktcode und Systemarchitekturdetails ein, um Debugging-Hilfe oder Code-Reviews zu erhalten.
Persönlich identifizierbare Informationen (PII) von Kunden: Vertriebs- und Supportmitarbeiter fügen Kundennamen, E-Mail-Adressen, Telefonnummern und Kontodaten in KI-Tools ein, um E-Mails zu entwerfen oder Fallverläufe zusammenzufassen.
Finanzprognosen und M&A-Daten: Finanzteams nutzen KI, um Tabellenkalkulationen zu analysieren oder Vorstandspräsentationen zu entwerfen, und laden dabei unveröffentlichte Gewinndaten und Vertragsbedingungen hoch.
Rechtliche Dokumente: Interne Rechtsabteilungen nutzen KI, um Verträge, Prozessdokumente und regulatorische Einreichungen zusammenzufassen – oft einschließlich privilegierter Kommunikation.
HR-Aufzeichnungen: HR-Teams nutzen KI, um Leistungsbeurteilungen und Kündigungsschreiben zu entwerfen, und fügen dabei Mitarbeitergehaltsdaten, Disziplinarakten und Informationen zu medizinischen Vorkehrungen ein.
Interne Strategiedokumente: Führungskräfte nutzen KI-Schreibassistenten, um Strategie-Memos, Produkt-Roadmaps und Wettbewerbsanalysen zu verfeinern, bevor sie für die externe Veröffentlichung freigegeben werden.

Warum Mitarbeiter die Regeln ignorieren

Den Mitarbeitern die Schuld zu geben, verfehlt den Punkt. Der Produktivitätsunterschied zwischen genehmigten Unternehmens-Tools und Verbraucher-KI ist oft enorm. Ein Mitarbeiter, der GPT-4o für komplexe Denkaufgaben oder Claude für die Analyse langer Dokumente nutzt, kann tatsächlich 2-3x produktiver sein als ein Kollege, der auf ein einfaches Unternehmens-Tool mit einer sechsmonatigen Beschaffungsverzögerung beschränkt ist. Wenn Unternehmen 18 Monate brauchen, um ein KI-Tool zu genehmigen, treffen Mitarbeiter ihre eigenen Entscheidungen. Die Liste der genehmigten Tools wird irrelevant, sobald sie nicht mehr dem entspricht, was tatsächlich funktioniert.

Es gibt auch einen Normalisierungseffekt. Wenn ein Mitarbeiter sieht, dass sein Vorgesetzter ChatGPT in einem Arbeitsanruf nutzt, oder wenn der Unternehmensblog auf KI-generierte Inhalte verweist, ist das implizite Signal, dass die Nutzung von KI-Tools akzeptabel ist. Ohne klare Richtlinien und konsequente Durchsetzung werden die meisten Mitarbeiter rationalisieren, dass das, was sie tun, in Ordnung ist – weil sie keine Möglichkeit haben, es anders zu wissen.

Die vier Bedrohungsvektoren

Shadow AI schafft vier verschiedene Sicherheitsbedrohungsvektoren, die traditionelle DLP- und Endpunkt-Sicherheitstools nur schlecht adressieren können:

Aufnahme von Trainingsdaten: Viele Verbraucher-KI-Plattformen, insbesondere solche, die unter den Nutzungsbedingungen der kostenlosen Stufe betrieben werden, behalten sich ausdrücklich das Recht vor, Benutzereingaben zum Trainieren oder Verbessern ihrer Modelle zu verwenden. Heute eingegebene Daten können die Modellausgaben für Tausende zukünftiger Benutzer beeinflussen – einschließlich Wettbewerbern.
Datenspeicherung durch Dritte: Selbst Plattformen, die nicht mit Benutzerdaten trainieren, speichern Konversationsprotokolle auf Servern außerhalb der Kontrolle des Unternehmens. Diese Protokolle unterliegen der eigenen Sicherheitslage des Anbieters, seiner Verletzungsgeschichte und der rechtlichen Zuständigkeit.
Prompt-Injection-Angriffe: Böswillige Akteure können Anweisungen in Dokumente oder Webseiten einbetten, die, wenn sie von einem KI-Tool zusammengefasst werden, dazu führen, dass das Tool Daten exfiltriert, sein Verhalten ändert oder irreführende Ausgaben generiert. Ein Mitarbeiter, der KI zur Zusammenfassung einer Phishing-E-Mail verwendet, könnte eine Prompt-Injection auslösen, die die KI dazu veranlasst, sensiblen Kontext an einen von Angreifern kontrollierten Endpunkt weiterzuleiten.
Modell-Memorisierung: Die Forschung hat gezeigt, dass LLMs wörtlichen Text aus ihren Trainingsdaten auswendig lernen und reproduzieren können, einschließlich sensibler Informationen. Daten, die in ein Modell eingegeben werden, das mit Benutzereingaben trainiert, können in Zukunft durch adversariale Aufforderungen wiederhergestellt werden.

Regulatorische Risiken sind konkret, nicht theoretisch

Shadow AI ist nicht nur ein Sicherheitsrisiko – es ist eine Compliance-Haftung mit spezifischen regulatorischen Zähnen. Unter der DSGVO stellt die Übertragung personenbezogener Daten von EU-Bürgern an einen US-basierten KI-Anbieter ohne angemessene vertragliche Schutzmaßnahmen (Standardvertragsklauseln oder verbindliche Unternehmensregeln) eine unrechtmäßige Datenübertragung dar. Bußgelder betragen bis zu 4 % des weltweiten Jahresumsatzes. Unter HIPAA ist das Einfügen von Patientengesundheitsdaten in ein KI-Tool, das nicht durch eine Business Associate Agreement abgedeckt ist, ein direkter HIPAA-Verstoß – die verantwortliche Stelle, nicht der KI-Anbieter, trägt die Haftung. SOC 2-Prüfer fragen zunehmend nach KI-Tool-Governance als Teil der Vertrauensdienstkriterien für Verfügbarkeit und Vertraulichkeit. ISO 27001:2022 hat explizit Kontrollen zu Lieferantenbeziehungen und Cloud-Diensten hinzugefügt, die sich auf KI-Anbieterbewertungen erstrecken. Das EU-KI-Gesetz, das jetzt in Kraft ist, fügt weitere Anforderungen an die Dokumentation von Hochrisiko-KI-Systemen und die menschliche Aufsicht hinzu, die Shadow-Deployments per Definition nicht erfüllen können.

Was Sicherheitsteams jetzt tun müssen

Ein pauschales Verbot von KI hat sich bereits als unwirksam erwiesen – Samsungs Verbot trieb die Nutzung in den Untergrund, anstatt sie zu beseitigen. Effektive Shadow AI-Governance erfordert eine Kombination aus technischen Kontrollen, genehmigten Alternativen und Verhaltensänderungen:

KI-bewusste DLP einsetzen: Next-Generation-DLP-Lösungen von Anbietern wie Nightfall, Cyberhaven und Microsoft Purview können jetzt Datenflüsse speziell zu KI-Endpunkten erkennen. Konfigurieren Sie Richtlinien, um Uploads von Quellcode, PII und Finanzdaten an nicht genehmigte KI-Dienste zu warnen oder zu blockieren.
SSE/CASB-Kontrollen implementieren: Security Service Edge-Plattformen von Netskope, Palo Alto Prisma Access und Zscaler bieten Transparenz über die Nutzung von Cloud-Anwendungen und können granulare Richtlinien für den KI-Tool-Zugriff durchsetzen – z. B. das Blockieren von Consumer-ChatGPT bei gleichzeitiger Zulassung einer OpenAI-Unternehmensvereinbarung.
Enterprise-KI-Plattformen mit Datenresidenzgarantien einsetzen: Microsoft 365 Copilot, Google Workspace Duet AI und AWS Bedrock bieten alle Unternehmensvereinbarungen mit expliziter Datenisolierung, keinem Training mit Kundendaten und Prüfprotokollierung. Mitarbeitern den Zugang zu leistungsfähiger KI innerhalb einer regulierten Umgebung zu geben, reduziert direkt die Motivation für Shadow-Nutzung.
KI-spezifische Mitarbeiterschulungen durchführen: Sicherheitsbewusstseinsprogramme müssen jetzt KI-spezifische Szenarien umfassen – welche Daten nicht in KI-Tools eingegeben werden dürfen, wie nicht autorisierte KI-Dienste identifiziert werden und wie KI-bezogene Vorfälle gemeldet werden. Allgemeine Cybersicherheitsschulungen sind unzureichend.
Ein KI-Asset-Inventar aufbauen: Bevor Sie die KI-Nutzung regulieren können, müssen Sie wissen, was verwendet wird. CASB-Tools können dies passiv aufdecken; aktive Umfragen und KI-Audits auf Abteilungsebene können die automatisierte Erkennung ergänzen.

Der Governance-Rahmen, den CISOs brauchen

Technische Kontrollen allein sind ohne Governance-Struktur unzureichend. CISOs sollten in den nächsten 90 Tagen drei spezifische Governance-Ergebnisse vorantreiben:

KI-Akzeptable-Nutzungsrichtlinie: Ein eigenständiges Richtliniendokument – getrennt von der allgemeinen IT-Akzeptable-Nutzungsrichtlinie – das genehmigte KI-Tools, verbotene Anwendungsfälle (Eingabe von PII, Quellcode, anwaltlich privilegierten Inhalten), Regeln für persönliche Geräte und disziplinarische Konsequenzen bei Verstößen definiert. Diese Richtlinie muss unterzeichnet und bestätigt werden, nicht nur veröffentlicht.
Liste genehmigter KI-Tools: Ein regelmäßig gepflegtes Register von KI-Tools, die für die Unternehmensnutzung genehmigt sind, mit zugehörigen Datenhandhabungsrichtlinien für jedes. Die Liste sollte zwischen Tools unterscheiden, die für die allgemeine Nutzung genehmigt sind, Tools, die nur für nicht sensible Daten genehmigt sind, und Tools, die ausdrücklich verboten sind.
Integration der Datenklassifizierung: KI-Governance kann ohne Datenklassifizierung nicht funktionieren. Wenn Mitarbeiter nicht wissen, welche Daten vertraulich sind, können sie keine guten Entscheidungen darüber treffen, was sie in KI-Tools eingeben. Integrieren Sie KI-Nutzungsbeschränkungen direkt in das Datenklassifizierungstraining und labelbasierte DLP-Richtlinien.

Sofortmaßnahmen für CISOs

Der Samsung-Vorfall ereignete sich im Jahr 2023. Die Tools sind seitdem nur noch leistungsfähiger, zugänglicher und tiefer in die Arbeitsabläufe der Mitarbeiter integriert worden. CISOs, die noch nicht in Bezug auf Shadow AI gehandelt haben, sollten Folgendes priorisieren: Führen Sie diese Woche eine CASB- oder SSE-Abfrage durch, um herauszufinden, welche KI-Dienste Ihre Mitarbeiter tatsächlich nutzen. Gleichen Sie diese Liste mit Ihrem Register genehmigter Tools ab. Bestimmen Sie für jeden nicht genehmigten Dienst mit signifikanter Nutzung, ob er durch ein genehmigtes Unternehmensäquivalent ersetzt werden kann – und wenn ja, beschleunigen Sie diese Beschaffung. Geben Sie eine interimistische Mitteilung heraus, die die KI-Tool-Nutzung anerkennt, klare Erwartungen setzt und einen Kanal für Mitarbeiter eröffnet, um Tool-Genehmigungen zu beantragen, anstatt den Prozess zu umgehen. Das Ziel ist nicht, die KI-Nutzung zu eliminieren. Das Ziel ist sicherzustellen, dass Mitarbeiter, wenn sie nach KI greifen – und sie werden es tun –, zu Tools greifen, die Unternehmensdaten keinem inakzeptablen Risiko aussetzen.