Datensicherheit beim Einsatz von KI im Unternehmen

Unternehmen binden KI immer häufiger in CRM, Support, Marketing, Analytik und interne Wissensdatenbanken ein. Mit dem Nutzen wachsen auch die Risiken: In Prompts landen personenbezogene Daten, Geschäftsbedingungen, Kundengespräche, Verträge und interne Dokumente. Probleme entstehen meist nicht durch "böse KI", sondern durch schwache Zugriffssteuerung, Protokollierung, Integrationen und fehlende Regeln für Mitarbeiter. Unten sehen wir praktisch, wie Unternehmen KI ohne unnötige Datenlecks und rechtliche Überraschungen nutzen können.

• das Hauptrisiko liegt nicht im Modell selbst, sondern darin, welche Daten hineingeschickt werden;
• gefährlich sind nicht nur externe Angriffe, sondern auch Fehler von Mitarbeitern und Dienstleistern;
• öffentliche KI-Dienste sind nicht immer für sensible Informationen geeignet;
• Unternehmen brauchen nicht nur NDAs, sondern auch Zugriffsregeln, Maskierung und Audits;
• sichere KI ist eine Kombination aus Technik, Prozessen und Verträgen mit Anbietern.

Warum das Thema kritisch geworden ist

Wenn KI nur punktuell genutzt wird, wirkt das Risiko klein: Ein Mitarbeiter lässt eine E-Mail entwerfen, ein Manager bekommt eine Antwortvorlage, ein Marketer generiert Text. In der Praxis landen jedoch schnell folgende Daten in Prompts:

• Namen, Telefonnummern, E-Mails und Bestellhistorien von Kunden;
• Verträge, Rechnungen, Preise und Rabatte;
• Angebote und interne Richtlinien;
• Codefragmente, Tokens, Zugangsschlüssel und Konfigurationen;
• HR-Daten, Lebensläufe und Mitarbeiterbewertungen.

Wenn solche Daten im falschen Dienst landen, unkontrolliert in Logs gespeichert werden oder zu vielen Personen zugänglich sind, ist das kein "KI-Experiment" mehr, sondern ein echter Informationssicherheitsvorfall.

Welche Daten besonders riskant für KI sind

Nicht alle Daten sind gleich sensibel. Für Unternehmen ist es sinnvoll, sie mindestens in vier Gruppen zu teilen:

Ein typischer Fehler

Ein Mitarbeiter kopiert "zur Beschleunigung" eine Kundenanfrage, einen Vertragsauszug oder eine Verkaufstabelle in einen öffentlichen Chat. Das Modell hilft, aber das Unternehmen hat Daten bereits in ein externes System übertragen, das es nicht vollständig kontrolliert. Selbst wenn der Anbieter Schutz verspricht, bleibt dies ohne Vertrag, Aufbewahrungsregeln und Zugriffsbeschränkungen ein Schwachpunkt.

Die wichtigsten Risiken beim Einsatz von KI im Unternehmen

1. Datenleck über Prompts

Das häufigste Szenario: sensible Daten landen direkt im Anfrage-Text. Das passiert in Vertrieb, Support, HR, Buchhaltung und Entwicklung. Ohne klare Regeln senden Mitarbeiter mehr Informationen an KI als nötig.

2. Logs und Anfragehistorie

Auch wenn die Antwort des Modells unkritisch ist, können Anfragelogs die ursprünglichen Daten vollständig speichern. Problematisch wird das, wenn diese Historie mehreren Teams, Dienstleistern oder überlange zugänglich ist.

3. Zu weitreichende Zugriffsrechte

Wenn ein KI-Bot gleichzeitig an CRM, E-Mail, Wissensdatenbank und ERP angebunden ist, die Rechte aber nicht begrenzt sind, kann jeder Fehler oder falsche Prompt zu viel Information offenlegen. Bei KI ist der Ansatz "erstmal Zugriff auf alles" besonders riskant.

4. Anbieter und grenzüberschreitende Datenübertragung

Viele Modelle und APIs arbeiten in anderen Jurisdiktionen. Das betrifft personenbezogene Daten, Verträge zur Datenverarbeitung, Aufbewahrungsfristen und Subunternehmer. Für manche Szenarien ist das kein Verbot, aber es verlangt eine bewusste rechtliche und technische Struktur.

5. Halluzinationen mit geschäftlichen Folgen

Das Problem ist nicht nur ein Datenleck. Wenn KI selbstsicher Vertragsklauseln erfindet, einem Kunden einen nicht existierenden Rabatt verspricht oder eine Anfrage falsch klassifiziert, entsteht direkter Geschäftsschaden. KI-Sicherheit bedeutet deshalb auch Qualitätskontrolle von Entscheidungen.

Was Unternehmen vor dem Start tun sollten

Sicherheit beginnt nicht erst nach dem ersten Vorfall, sondern schon beim Design. Ein sinnvolles Minimum sieht so aus:

1. Anwendungsfälle beschreiben. Wer sendet warum Daten an KI, woher kommen sie und wohin geht die Antwort zurück.
2. Daten nach Sensibilität trennen. Was darf in ein öffentliches Modell, was nur in ein Unternehmensmodell, und was gar nicht.
3. Zugriffe begrenzen. Bots und Mitarbeiter sollten nur die Daten sehen, die sie für die konkrete Aufgabe brauchen.
4. Maskierung einführen. Namen, Dokumentnummern, Zahlungsdaten, Tokens und andere unnötige Kennungen aus Prompts entfernen.
5. Anbieterverträge prüfen. DPA, Log-Aufbewahrung, Training auf Unternehmensdaten, Verarbeitungsregion und Subunternehmer sind wichtig.

Praktische Schutzmassnahmen

Richtlinie für Mitarbeiter

Sie brauchen eine kurze, klare Anleitung und kein abstraktes 40-Seiten-Dokument. Mitarbeiter sollten wissen:

• welche Daten nicht in öffentliche KI eingefügt werden dürfen;
• in welchen Fällen ein Unternehmenswerkzeug nötig ist;
• wann KI-Antworten von Menschen geprüft werden müssen;
• wem Fehler oder verdächtige Antworten gemeldet werden.

Technische Massnahmen

Für die meisten Unternehmen sind diese Grundlagen sinnvoll:

• SSO und rollenbasierte Zugriffssteuerung;
• Protokollierung von KI-Interaktionen;
• automatische Maskierung personenbezogener Daten;
• Sperre für die Übertragung von Geheimnissen und Schlüsseln;
• ein separates Gateway oder Middleware vor dem externen API;
• Limits für Datenexporte aus internen Systemen.

Organisatorische Massnahmen

Auch gute Technik funktioniert nicht ohne Prozesse. Verantwortlichkeiten sollten festgelegt werden für:

• Freigabe von KI-Anwendungsfällen;
• Zugriffe für neue Mitarbeiter und Dienstleister;
• regelmässige Überprüfung von Rollen und Rechten;
• Analyse von Vorfällen und Aktualisierung der Regeln;
• Schulung des Teams im sicheren Umgang mit KI.

Wann Unternehmens-KI besser ist als öffentliche KI

Ein öffentlicher Dienst passt nicht zu jeder Aufgabe. Ein Unternehmens-Setup ist besser, wenn:

• im Prozess personenbezogene Daten von Kunden oder Mitarbeitern vorkommen;
• KI Zugriff auf Verträge, Finanzen oder interne Analysen erhält;
• Antworten Preise, Vertragsbedingungen, Einstellungen oder rechtlich relevante Prozesse beeinflussen;
• Kontrolle über Logs, Rollen, Speicherregion und deaktiviertes Training auf Firmendaten nötig ist.

Für sensible Aufgaben setzen Unternehmen oft eine Zwischenschicht ein: Sie bereinigt Anfragen, blendet unnötige Felder aus, protokolliert Zugriffe und sendet erst dann anonymisierte Daten an ein externes Modell oder an eine interne RAG-Umgebung.

Checkliste vor dem Rollout

Vor dem Produktivstart sollte geprüft werden:

• gibt es eine Datenkarte, die zeigt, was in die KI geht;
• sind sensible Felder maskiert;
• sind Rollen und Zugriffe begrenzt;
• sind die notwendigen Anbieterverträge unterschrieben;
• sind Aufbewahrungsfristen für Logs definiert;
• gibt es einen Weg zur Eskalation an einen Menschen;
• ist ein Verantwortlicher für Vorfälle benannt;
• kennen Mitarbeiter die Grundregeln.

Fazit

Datensicherheit beim Einsatz von KI im Unternehmen bedeutet kein Verbot von KI, sondern Risikomanagement. Unternehmen profitieren dann von KI, wenn sie klar verstehen, welche Daten übertragen werden dürfen, wer Zugriff bekommt, wo Logs gespeichert werden und wer für das Ergebnis verantwortlich ist. Ohne diese Regeln verwandelt sich höhere Geschwindigkeit schnell in das Risiko von Datenlecks, Bussgeldern und operativen Fehlern. Es ist deutlich günstiger, Zugriffssteuerung, Maskierung und menschliche Prüfung von Anfang an einzuplanen, als später die Folgen eines Vorfalls zu beseitigen.

Sie brauchen ein sicheres KI-Szenario für Website, Bot oder interne Prozesse - kontaktieren Sie uns.

Häufig gestellte Fragen

Dürfen Mitarbeiter normales ChatGPT oder Claude für Arbeitsaufgaben nutzen?

Nur in Szenarien ohne sensible Daten und mit klaren internen Regeln. Wenn Mitarbeiter Kundenanfragen, Verträge, Preise oder interne Dokumente in öffentliche KI kopieren, entsteht ein Risiko für Datenlecks und rechtliche Probleme. Für die regelmässige Arbeit mit Unternehmensdaten ist ein Unternehmens-Setup oder eine eigene Zwischenschicht besser geeignet.

Welche Daten sollten nicht ohne zusätzliche Prüfung an KI gesendet werden?

Vor allem personenbezogene Daten, Verträge, Finanzinformationen, API-Schlüssel, Passwörter, Geschäftsbedingungen und interne Korrespondenz. Selbst wenn das Modell "nur für einen Entwurf" genutzt wird, schafft die Übertragung solcher Daten ohne Maskierung und freigegebenen Prozess unnötige Risiken. Je leichter sich daraus eine Person, ein Kunde oder ein System identifizieren lässt, desto vorsichtiger muss der Ablauf sein.

Reicht ein NDA mit Mitarbeitern und Dienstleistern aus?

Nein. Ein NDA ist hilfreich, ersetzt aber keinen technischen Schutz. Wenn Mitarbeiter auf alle Systeme zugreifen können und es keine Grenzen beim Kopieren von Daten in KI gibt, löst Papier allein das Problem nicht. Sie brauchen Rollen, Protokollierung, Exportbeschränkungen und eine klare KI-Nutzungsrichtlinie.

Wie lässt sich das Leckrisiko senken, wenn KI bereits mit CRM und Wissensdatenbank verbunden ist?

Beginnen Sie mit dem Prinzip des minimal nötigen Zugriffs: Die KI sollte nur die Felder und Dokumente erhalten, die für die Aufgabe notwendig sind. Ergänzen Sie dann Maskierung personenbezogener Daten, Protokollierung der Zugriffe, Rollenbeschränkungen und manuelle Prüfung bei kritischen Szenarien. Eine gute Praxis ist eine separate Schicht zwischen internen Systemen und dem Modell, die Anfragen filtert und unnötige Daten blockiert.

Braucht ein kleines Unternehmen eine eigene verantwortliche Person für KI-Sicherheit?

Ja, zumindest als Rolle und nicht unbedingt als eigene Stelle. Jemand muss für Zugriffsregeln, Freigabe der Szenarien, Anbietersteuerung, Log-Überprüfung und Incident-Handling verantwortlich sein. In kleinen Unternehmen kann das ein Projektleiter, CTO oder externer Dienstleister sein, aber die Verantwortung sollte ausdrücklich zugewiesen werden.