Schatten-KI im Unternehmen: Wie Governance und AI Literacy unkontrollierte Nutzung reduzieren

Schatten-KI ist selten nur ein Disziplinproblem

Ein Mitarbeiter lädt ein Protokoll in einen frei verfügbaren KI-Dienst, weil die Zusammenfassung schnell fertig ist. Eine Kollegin testet einen Recherche-Assistenten mit dem privaten Account. Ein Team verbindet ein generatives KI-Tool mit einer Cloud-Ablage, ohne dass IT oder Informationssicherheit davon wissen. Solche Situationen werden oft als Schatten-KI bezeichnet: KI-Systeme oder KI-Funktionen werden für Arbeitsaufgaben genutzt, ohne dass sie im vorgesehenen Freigabe- und Governance-Prozess angekommen sind.

Die naheliegende Reaktion lautet häufig: verbieten. Das kann für einzelne Systeme oder Datenarten richtig sein. Als alleinige Strategie greift es jedoch zu kurz. Mitarbeitende greifen meist zu neuen Werkzeugen, weil sie ein reales Arbeitsproblem schneller lösen möchten. Ist der offizielle Weg langsam, unklar oder unbekannt, entsteht ein Anreiz für Ausweichlösungen.

Für Unternehmen ist Schatten-KI deshalb gleichzeitig ein Governance-, Sicherheits- und Kompetenzthema. Wer nur technisch blockiert, erfährt wenig über den tatsächlichen Bedarf. Wer nur schult, aber keine nutzbaren freigegebenen Alternativen bereitstellt, lässt Mitarbeitende mit dem Produktivitätsproblem allein. Ein belastbarer Ansatz verbindet beides.

Warum nicht freigegebene KI-Nutzung riskant werden kann

Das Risiko hängt nicht am Etikett KI, sondern am konkreten System, den verarbeiteten Informationen und dem Einsatzzweck. Bei einem Brainstorming mit öffentlichen Informationen ist die Lage eine andere als bei Vertragsunterlagen, Kundendaten, Quellcode oder Personalinformationen.

Das Bundesamt für Sicherheit in der Informationstechnik empfiehlt Organisationen, Informationssicherheit bei generativer KI systematisch mitzudenken. Relevant sind unter anderem Datenflüsse, Zugriffsmöglichkeiten und die Frage, wie Ausgaben überprüft werden. Bei anwendungsintegrierten Sprachmodellen weist das BSI außerdem auf indirekte Prompt Injections hin. Je stärker ein KI-System mit Dokumenten, Postfächern oder Werkzeugen verbunden ist, desto wichtiger werden technische Grenzen und kontrollierte Berechtigungen.

Typische Problemfelder sind:

• Vertrauliche oder personenbezogene Informationen gelangen in einen nicht geprüften Dienst.
• Vertrags-, Speicher- oder Nutzungsbedingungen des Anbieters sind intern nicht bewertet.
• Mitarbeitende verlassen sich auf falsche Ausgaben, ohne die notwendige Prüftiefe zu kennen.
• Browser-Erweiterungen oder Integrationen erhalten weitergehende Zugriffe als nötig.
• Ein Team baut einen wichtigen Ablauf auf einem Dienst auf, für den es keinen geregelten Support oder Ausfallplan gibt.
• Sicherheits- und Datenschutzverantwortliche erfahren erst bei einem Vorfall von der Nutzung.

Nicht jeder Punkt trifft auf jedes Tool zu. Genau deshalb braucht es eine differenzierte Bewertung statt eines pauschalen Urteils.

Artikel 4 EU AI Act macht den Nutzungskontext wichtig

Artikel 4 der EU-KI-Verordnung verpflichtet Anbieter und Betreiber von KI-Systemen dazu, Maßnahmen zu ergreifen, die die Entwicklung von KI-Kompetenz ihrer Mitarbeitenden und weiterer Personen unterstützen, die in ihrem Auftrag mit KI-Systemen arbeiten. Nach der seit Juli 2026 geltenden Fassung sollen dabei insbesondere technisches Wissen, Erfahrung, Ausbildung und Schulung sowie der konkrete Nutzungskontext berücksichtigt werden. Ein bestimmtes Kompetenzniveau jeder einzelnen Person muss nicht garantiert werden.

Die Europäische Kommission erläutert in ihren aktuellen Fragen und Antworten, dass die Verpflichtung zu Maßnahmen seit dem 2. Februar 2025 gilt und die Regeln zu Aufsicht und Durchsetzung seit August 2026 greifen. Sie schreibt kein einzelnes Schulungsformat als alleinige Lösung vor.

Für Schatten-KI ist dieser Kontextgedanke hilfreich. Ein Mitarbeiter muss nicht sämtliche Details jedes KI-Anbieters kennen. Er sollte aber erkennen können, wann eine neue Anwendung außerhalb des freigegebenen Rahmens liegt, welche Informationen besonders schutzbedürftig sind, wo ein Tool geprüft werden kann und wann eine Rückfrage erforderlich ist. AI Literacy wird damit zu praktischer Navigationskompetenz.

1. Nutzung sichtbar machen, ohne eine Fallensteller-Kultur zu schaffen

Wer Schatten-KI reduzieren will, braucht zunächst ein realistisches Bild. Eine reine Abfrage, ob nicht freigegebene KI genutzt wird, liefert oft wenig. Besser ist eine kurze Use-Case-Inventur: Welche Aufgaben werden bereits mit KI unterstützt? Welche Werkzeuge verwenden Teams? Welche Daten fließen ein? Welche Ergebnisse werden weiterverwendet?

Der Ton ist entscheidend. Wenn Mitarbeitende erwarten, für jede genannte Nutzung sanktioniert zu werden, bleiben gerade die interessanten Fälle unsichtbar. Das Ziel der Inventur sollte klar sein: Bedarfe verstehen, Risiken priorisieren und gute Lösungen in einen kontrollierten Rahmen überführen.

Ein einfaches Register kann pro Use Case Zweck, Team, Tool, Datenarten, Empfänger der Ausgabe, Automatisierungsgrad und verantwortliche Person erfassen. Damit entsteht keine perfekte KI-Landkarte, aber eine brauchbare Grundlage für Prioritäten.

2. Datenregeln müssen konkreter sein als „nichts Sensibles eingeben“

Abstrakte Warnungen scheitern im Alltag. Mitarbeitende müssen wissen, was die interne Regel für typische Inhalte bedeutet: Darf eine Kundenmail in das freigegebene System? Wie sieht es mit einem noch unveröffentlichten Angebot aus? Darf Quellcode verarbeitet werden? Was gilt für Bewerbungsunterlagen?

Unternehmen können dafür Datenklassen mit klaren Beispielen verbinden. Entscheidend ist, dass die Regel zum tatsächlich eingesetzten Tool passt. Ein unternehmensseitig konfigurierter Dienst kann andere vertragliche und technische Eigenschaften haben als dieselbe Anwendung in einer öffentlichen Variante. Der Produktname allein sagt daher nicht, ob eine konkrete Nutzung freigegeben ist.

Eine gute Schulung übt diese Entscheidungen mit realistischen Fällen. Wer versteht, warum bestimmte Informationen geschützt werden, kann neue Situationen besser einordnen als jemand, der nur eine Verbotsliste auswendig gelernt hat.

3. Eine freigegebene Alternative muss praktisch erreichbar sein

Governance verliert Akzeptanz, wenn der sichere Weg im Alltag deutlich schlechter funktioniert als der inoffizielle. Unternehmen sollten deshalb für häufige Aufgaben mindestens einen praktikablen, geprüften Weg anbieten. Das kann ein freigegebener Chat-Assistent, eine Recherchelösung oder eine unternehmensinterne Integration sein.

Ein interner Katalog kann knapp festhalten:

• freigegebene KI-Systeme und zulässige Anwendungsfälle,
• erlaubte Datenklassen und relevante Einschränkungen,
• verfügbare Funktionen wie Datei-Upload oder Webzugriff,
• notwendige menschliche Prüfungen,
• Ansprechpartner für neue Anforderungen.

Je leichter diese Informationen auffindbar sind, desto weniger attraktiv wird die spontane Nutzung eines unbekannten Dienstes.

4. Neue Tools brauchen einen schnellen, risikobasierten Freigabeweg

Ein Freigabeprozess, der für einen kleinen Textassistenten dieselben Unterlagen verlangt wie für ein geschäftskritisches KI-System, fördert Umgehungen. Sinnvoller ist eine Vorprüfung, die den Use Case nach Daten, Zugriffsrechten, Außenwirkung und möglichem Schaden einordnet.

Für eine erste Triage reichen oft wenige Fragen: Welche Aufgabe soll das Tool lösen? Welche Daten erhält es? Welche Systeme darf es erreichen? Werden Ergebnisse extern veröffentlicht oder für Entscheidungen genutzt? Kann das Tool selbst Aktionen ausführen? Gibt es eine verantwortliche Person im Fachbereich?

Aus diesen Antworten lässt sich ableiten, welche Fachstellen beteiligt werden müssen. Datenschutz, Informationssicherheit, Legal, Einkauf oder IT müssen nicht jeden Test in gleicher Tiefe prüfen. Kritische Fälle brauchen jedoch eine belastbare Bewertung. Diese Staffelung ist eine organisatorische Empfehlung und keine Aussage, dass gesetzlich erforderliche Prüfungen entfallen.

5. Browser-Erweiterungen, Plugins und Agenten gesondert betrachten

Ein Chatfenster, in das ein Nutzer bewusst Text kopiert, hat einen anderen Zugriff als eine Erweiterung, die Webseiten mitlesen kann, oder ein Agent mit Zugriff auf E-Mail und Cloud-Speicher. Deshalb sollte die Tool-Inventur nicht nur nach bekannten KI-Marken fragen, sondern auch nach Integrationen und Berechtigungen.

Das BSI beschreibt indirekte Prompt Injection als relevante Schwachstelle bei anwendungsintegrierten Sprachmodellen, wenn ungeprüfte Inhalte aus externen Quellen verarbeitet werden. Für Unternehmen folgt daraus eine wichtige Governance-Regel: Inhalte aus Dokumenten oder Webseiten sollten nicht automatisch neue Berechtigungen erzeugen. Technische Rechte, erlaubte Aktionen und Freigabeschritte sollten außerhalb des Modells begrenzt werden.

Für Mitarbeitende ist die Lernbotschaft einfach: Je mehr ein KI-Werkzeug sehen und tun kann, desto weniger reicht die Frage, ob seine Antworten gut sind. Dann werden Zugriffsrechte, Datenquellen und mögliche Aktionen Teil der sicheren Nutzung.

6. AI Literacy sollte den Meldeweg für neue Use Cases trainieren

Viele Schulungen enden bei Halluzinationen, Datenschutz und Prompting. Für die Reduktion von Schatten-KI fehlt dann ein entscheidender Schritt: Was soll ein Mitarbeiter tun, wenn er morgen ein neues Werkzeug entdeckt, das sein Problem besser löst?

Der Prozess sollte so konkret sein, dass er nach der Schulung ohne lange Suche verstanden wird. Zum Beispiel: Use Case kurz beschreiben, Tool nennen, erwartete Datenarten auswählen und an eine definierte Stelle senden. Idealerweise gibt es eine Rückmeldung in einem realistischen Zeitraum.

In Wissenschecks lassen sich solche Situationen gut abbilden. Ein neues Meeting-Tool verspricht automatische Transkription. Ein Browser-Plugin soll Kundenseiten zusammenfassen. Ein KI-Assistent möchte Zugriff auf das Postfach. Die richtige Antwort ist nicht immer „verboten“. Die Kompetenz besteht darin, den Freigabebedarf zu erkennen und den vorgesehenen Weg zu nutzen.

7. Messen, ob Governance im Alltag funktioniert

Die Zahl absolvierter Schulungen ist nur eine Kennzahl. Für Schatten-KI sind zusätzliche Signale hilfreich: Wie viele neue Use Cases werden freiwillig gemeldet? Wie lange dauert eine Freigabeentscheidung? Welche Datenregeln werden in Wissenschecks häufig missverstanden? Welche nicht freigegebenen Tools tauchen wiederholt auf? Gibt es für häufige Bedarfe noch keine offizielle Alternative?

Solche Beobachtungen helfen, Governance zu verbessern, statt nur Verstöße zu zählen. Wenn mehrere Teams unabhängig denselben Dienst testen, kann das auf einen echten Funktionsbedarf hinweisen. Wenn Anfragen regelmäßig wochenlang offen bleiben, ist möglicherweise der Prozess selbst ein Risikofaktor.

Auch Schulungsinhalte sollten aktualisiert werden, wenn neue Funktionen hinzukommen. Ein bisher reiner Chatdienst kann durch Dateizugriff, Gedächtnisfunktionen, Plugins oder Agenten deutlich andere Fragen aufwerfen. Kontextbezogene AI Literacy ist deshalb kein einmal eingefrorener Foliensatz.

Ein pragmatischer 30-Tage-Plan gegen Schatten-KI

In der ersten Woche sammelt das Unternehmen typische KI-Use-Cases und vorhandene Tools aus mehreren Fachbereichen. Parallel werden besonders kritische Datenarten und bereits geltende Regeln sichtbar gemacht. In Woche zwei entsteht ein schlanker Katalog freigegebener Werkzeuge sowie ein einfacher Melde- und Prüfweg für neue Tools.

In Woche drei werden technische Leitplanken für besonders riskante Zugriffe geprüft: Identitäten, Berechtigungen, Erweiterungen, Datei-Uploads und Schnittstellen. Gleichzeitig erhalten Mitarbeitende kurze rollenbezogene Lernfälle. In Woche vier werden offene Anfragen, häufige Missverständnisse und fehlende Alternativen ausgewertet.

Das Ergebnis muss keine perfekte zentrale KI-Plattform sein. Wertvoller ist ein funktionierender Kreislauf: Nutzung wird sichtbar, Risiken werden angemessen bewertet, sichere Optionen werden bereitgestellt und Mitarbeitende wissen, wie sie neue Ideen in den offiziellen Prozess bringen.

Fazit: Gute Governance macht den sicheren Weg zum einfachen Weg

Schatten-KI lässt sich nicht allein mit Verbotsschildern lösen. Unternehmen brauchen klare Datenregeln, sichtbare freigegebene Werkzeuge, schnelle risikobasierte Prüfwege und technische Grenzen für weitreichende Zugriffe. Ebenso wichtig sind Mitarbeitende, die verstehen, wann ein neuer KI-Use-Case eine Rückfrage braucht und wie sie diese stellen.

Genau hier treffen Governance und AI Literacy aufeinander. Artikel 4 des EU AI Act stellt den Nutzungskontext in den Mittelpunkt. Das passt zur Praxis: Wer Schatten-KI reduzieren will, muss Menschen nicht zu Juristen oder Sicherheitsexperten machen, sondern ihnen gute Entscheidungen im eigenen Arbeitsalltag ermöglichen.