Shadow AI im Mittelstand: KI-Nutzung sichtbar und sicher gestalten

Shadow AI bezeichnet die Nutzung nicht freigegebener KI-Dienste für betriebliche Aufgaben. Das kann schon passieren, wenn Beschäftigte Texte, Protokolle, Quellcode oder Tabellen über private Konten verarbeiten. Das Risiko hängt nicht nur vom Produktnamen ab, sondern von den eingegebenen Daten, den Vertrags- und Kontoeinstellungen, dem Speicherort, den Zugriffsrechten und dem konkreten Verwendungszweck.

Ein pauschales Verbot löst das Problem selten. Ein praktikabler Ansatz verbindet Sichtbarkeit, klare Regeln, freigegebene Alternativen und regelmäßige Überprüfung.

Welche Risiken müssen KMU prüfen?

Bei personenbezogenen Daten ist zu klären, ob eine Rechtsgrundlage besteht, welche Rolle der Anbieter hat, ob ein Auftragsverarbeitungsvertrag erforderlich ist, wo Daten verarbeitet werden und wie lange sie gespeichert bleiben. Die DSGVO gilt auch dann, wenn ein KI-Werkzeug nur für wenige Minuten genutzt wird.

Geschäftsgeheimnisse, Kundendaten, Zugangsdaten und unveröffentlichte Finanz- oder Produktinformationen benötigen eigene Schutzregeln. Ob Eingaben gespeichert oder für Modellverbesserungen genutzt werden, unterscheidet sich nach Anbieter, Produkt, Tarif und aktiver Konfiguration. Deshalb sollte keine pauschale Aussage wie „Enterprise-Daten werden nie zum Training verwendet“ ohne Prüfung der aktuellen Vertrags- und Produkteinstellungen übernommen werden.

Auch die Qualität der Ausgabe ist ein Risiko: KI-Systeme können plausible, aber falsche Inhalte erzeugen. Ergebnisse mit rechtlicher, finanzieller, personeller oder sicherheitsbezogener Wirkung brauchen eine benannte menschliche Prüfung.

Inventar statt unbekannter Nutzung

Beginnen Sie mit einer sachlichen Bestandsaufnahme:

1. Welche KI-Systeme und Konten werden tatsächlich verwendet?
2. Welche Abteilungen und Anwendungsfälle sind betroffen?
3. Welche Datenkategorien werden eingegeben oder erzeugt?
4. Welche Anbieter-, Speicher-, Trainings- und Löschbedingungen gelten im konkreten Tarif?
5. Wer prüft Ergebnisse und entscheidet über Freigaben?

Offene Gespräche und kurze anonyme Abfragen liefern oft ein realistischeres Bild als reine Kontrollansagen. Technische Inventarisierung kann ergänzen, muss aber selbst datenschutz- und arbeitsrechtlich bewertet werden.

Eine verständliche KI-Richtlinie

Eine Richtlinie sollte nicht nur Verbote aufzählen. Sie sollte freigegebene Werkzeuge und Anwendungsfälle nennen, sensible Datenkategorien beschreiben, eine Prüfstelle festlegen und erklären, wann Ergebnisse menschlich kontrolliert oder als KI-generiert gekennzeichnet werden müssen.

Für jeden freigegebenen Dienst sollten Verantwortliche mindestens Vertragslage, Rollen und Berechtigungen, Protokollierung, Speicher- und Löschoptionen sowie internationale Datenübermittlungen prüfen. Lokale Modelle können den Datenfluss begrenzen, machen Betrieb, Modellherkunft, Zugriffssteuerung und Ergebnisprüfung aber nicht automatisch sicher.

EU AI Act: Rolle und Anwendungsfall entscheiden

Die Pflichten der EU-KI-Verordnung hängen von der Rolle des Unternehmens und vom konkreten KI-System ab. Ein Unternehmen kann Betreiber eines fremden Systems sein, in anderen Konstellationen aber auch Anbieter oder Produktverantwortlicher werden. Der Einsatz eines allgemeinen Chatbots macht ein Unternehmen nicht pauschal zum Hochrisiko-Betreiber.

Artikel 4 zur KI-Kompetenz gilt seit dem 2. Februar 2025. Die EU-Kommission erläutert, dass Kontext, Kenntnisse und Nutzung zu berücksichtigen sind; ein bestimmtes Zertifikat oder ein einheitliches Schulungsformat schreibt die Vorschrift nicht vor. Transparenzpflichten nach Artikel 50 sind seit dem 2. August 2026 anwendbar, greifen aber abhängig von System, Rolle und Inhalt. Der aktuelle Zeitplan berücksichtigt außerdem die 2026 in Kraft getretene AI-Omnibus-Änderung für Hochrisiko-Systeme.

Umsetzung in sechs Schritten

1. Nutzung und Datenflüsse inventarisieren.
2. Rollen nach AI Act und Datenschutz festhalten.
3. Erlaubte Werkzeuge, Zwecke und Datenklassen definieren.
4. Zugriffe, Konten und Schutzoptionen technisch konfigurieren.
5. Beschäftigte anhand realer Anwendungsfälle schulen.
6. Anbieterbedingungen, Konfiguration und Vorfälle regelmäßig überprüfen.

Ein Incident-Response-Plan sollte auch Fehlfreigaben, kompromittierte KI-Konten und die Eingabe vertraulicher Informationen berücksichtigen. Die passende Lösung kann aus einem geprüften Cloud-Dienst, einem lokalen Modell oder einer Kombination bestehen. Entscheidend ist der nachweisbare Umgang mit dem tatsächlichen Risiko, nicht das Etikett des Produkts.

Dieser Beitrag ist eine technische und organisatorische Orientierung und keine Rechtsberatung.