AI Acceptable Use Policy (AUP)

DefinitionRegeln, was Mitarbeitende mit KI dürfen und nicht dürfen

Eine AI Acceptable Use Policy (AUP) ist ein verbindliches Regelwerk, das festlegt, was Mitarbeitende beim Einsatz von KI-Tools dürfen und was nicht dürfen. Sie definiert zulässige Anwendungsfälle, verbotene Inhalte, Sicherheits- und Datenschutzanforderungen sowie Freigabeprozesse – damit KI produktiv genutzt wird, ohne Risiken wie Datenabfluss, Rechtsverstöße oder Fehlentscheidungen zu erzeugen.

Was bedeutet AI Acceptable Use Policy (AUP)?

„Acceptable Use“ bedeutet „zulässige Nutzung“. Eine AI AUP ist daher die KI-spezifische Ergänzung klassischer IT- oder Security-Richtlinien: Sie beschreibt klare Spielregeln für den Einsatz von z. B. ChatGPT, Generative KI (Generative AI) oder internen Large Language Model (LLM)-Anwendungen – inklusive Verantwortlichkeiten und Konsequenzen bei Verstößen.

Wie funktioniert eine AI AUP in der Praxis?

Scope definieren: Welche Tools, Teams und Daten sind betroffen (z. B. externe Chatbots, interne Assistenzsysteme, Automatisierungen mit n8n).
Erlaubte Use Cases festlegen: z. B. Entwürfe für E-Mails, Zusammenfassungen, Ideengenerierung, Code-Vorschläge – jeweils mit Qualitäts- und Prüfpflicht.
Verbotene Nutzung klar benennen: z. B. Eingabe von Kundendaten, Passwörtern oder vertraulichen Dokumenten; Erstellung diskriminierender Inhalte; Umgehung von Sicherheitsregeln (z. B. Jailbreak).
Datenregeln & Freigaben: Klassifizierung (öffentlich/intern/vertraulich), Anforderungen an PII Redaction (PII-Schwärzung) und ggf. DLP, sowie Genehmigungsprozesse für neue Tools.
Qualität & Kontrolle: Pflicht zur Überprüfung von Ergebnissen wegen Halluzinationen (Hallucinations), Kennzeichnung KI-generierter Inhalte, „Human-in-the-Loop“ für kritische Entscheidungen.
Durchsetzung: Schulungen, Logging, Audits, Eskalationswege – eingebettet in AI Governance und Security.

Warum ist eine AI AUP wichtig?

KI kann Produktivität steigern, aber auch neue Risiken schaffen: Daten können unbeabsichtigt an Dritte gelangen, Ergebnisse können falsch oder verzerrt sein, und es können Compliance-Verstöße entstehen (z. B. gegenüber Datenschutz (DSGVO/GDPR) & KI oder dem EU AI Act). Eine AUP reduziert diese Risiken, schafft Klarheit für Mitarbeitende und beschleunigt sichere Adoption, weil nicht jedes Team „bei Null“ starten muss.

Beispiele für typische AUP-Regeln

Datenschutz: Keine personenbezogenen Daten in öffentliche KI-Tools; nur freigegebene, datenschutzkonforme Plattformen nutzen.
Vertraulichkeit: Keine internen Strategiepapiere, Quellcode-Repositories oder Vertragsinhalte ohne Freigabe hochladen.
Transparenz: KI-Ergebnisse dürfen nicht als „Fakten“ weitergegeben werden, ohne Prüfung; Quellen/Belege anfordern, wenn möglich (z. B. via RAG (Retrieval-Augmented Generation)).
Automation: Bei Workflows mit Automatisierung (Automation) (z. B. in n8n): keine Tools mit Schreibzugriff auf Produktivsysteme ohne Review; Secrets nur über Secrets Management (Schlüsselverwaltung).
Security: Schutz vor Prompt Injection in internen Assistenten; keine Weitergabe von Systemanweisungen (siehe System Prompt (Systemanweisung)) oder internen Prompts.

Was gehört typischerweise in eine gute AI AUP?

Eine praxistaugliche AI AUP enthält mindestens: Tool-Liste (erlaubt/verboten), Datenklassifizierung, Do’s & Don’ts, Prüf- und Freigabeprozesse, Rollen (User, Teamlead, Security/Legal), Vorgaben zur Dokumentation und Hinweise zu Sanktionen. Idealerweise wird sie regelmäßig aktualisiert, weil sich KI-Modelle, Anbieterbedingungen und Regulatorik schnell ändern.

3 von 4
führen KI-Regeln ein
Viele Unternehmen definieren 2024 interne Vorgaben für den sicheren Einsatz von generativer KI, um Datenschutz-, Compliance- und Reputationsrisiken zu begrenzen.
40%
weniger Schattennutzung
Eine klare AI Acceptable Use Policy senkt in KMU typischerweise die unkontrollierte Nutzung externer KI-Tools, weil erlaubte und verbotene Anwendungsfälle eindeutig beschrieben sind.
2,1x
schnellere Freigaben
Wenn Rollen, Datenklassen und erlaubte Tools in einer AUP festgelegt sind, können Fachbereiche KI-Anwendungen deutlich schneller rechtssicher einführen.

KI-Nutzung im Vertrieb mit klaren Freigaben für Kundendaten regeln
Ein KMU definiert in seiner AI Acceptable Use Policy, dass Vertriebsmitarbeitende KI-Tools für E-Mail-Entwürfe, Gesprächszusammenfassungen und Angebotsbausteine nutzen dürfen, aber keine personenbezogenen Kundendaten in öffentliche Systeme eingeben. So kann das Team produktiver arbeiten, ohne gegen Datenschutzvorgaben oder Vertraulichkeitsvereinbarungen zu verstoßen.
Bewerbungsunterlagen in HR nur mit freigegebenen KI-Tools verarbeiten
Ein mittelständisches Unternehmen legt fest, dass die Personalabteilung KI zur Formulierung von Stellenanzeigen und zur Strukturierung von Interviewleitfäden einsetzen darf, nicht jedoch zur automatisierten Endauswahl von Kandidaten ohne menschliche Prüfung. Die AUP schafft damit klare Grenzen für faire, nachvollziehbare und datenschutzkonforme HR-Prozesse.
Support-Antworten mit KI vorbereiten, aber vor Versand verbindlich prüfen
Ein KMU im Kundenservice erlaubt den Einsatz von KI für Antwortvorschläge auf häufige Anfragen, schreibt jedoch vor, dass Mitarbeitende jede Antwort vor dem Versand fachlich kontrollieren und keine internen Lösungsdokumente ungefiltert hochladen. Dadurch werden Reaktionszeiten verkürzt, ohne Qualität, Haftung oder Wissensschutz zu gefährden.

Häufig gestellte Fragen

Was ist eine AI Acceptable Use Policy (AUP)?

Eine AI Acceptable Use Policy ist ein verbindliches Regelwerk für den sicheren und sinnvollen Einsatz von KI im Unternehmen. Sie legt fest, welche KI-Tools genutzt werden dürfen, welche Anwendungsfälle erlaubt sind und welche Grenzen bei Datenschutz, Sicherheit und Compliance gelten.

Warum braucht ein Unternehmen eine AI Acceptable Use Policy?

Ohne klare Regeln nutzen Mitarbeitende KI oft uneinheitlich und mit unnötigen Risiken, etwa bei sensiblen Daten, Urheberrechten oder fehlerhaften Ergebnissen. Eine AI AUP schafft Orientierung, reduziert Haftungsrisiken und sorgt dafür, dass KI produktiv statt chaotisch eingesetzt wird.

Wir sind ein kleines Unternehmen – brauchen wir wirklich schon eine AI Acceptable Use Policy?

Ja, gerade kleinere Unternehmen profitieren von klaren KI-Regeln, weil oft keine eigene IT- oder Compliance-Abteilung vorhanden ist. Ich helfe dir dabei, eine pragmatische AI Acceptable Use Policy zu entwickeln, die zu deinem Alltag passt und nicht wie ein Konzernhandbuch wirkt.

Ist die Erstellung einer AI Acceptable Use Policy nicht zu aufwendig?

Nicht, wenn man strukturiert vorgeht. In meiner KI-Beratung prüfen wir zuerst, welche Tools, Prozesse und Risiken bei dir überhaupt relevant sind, und leiten daraus eine schlanke, verständliche Policy ab, die dein Team auch wirklich nutzt.

Was, wenn wir gar nicht wissen, welche KI-Tools im Unternehmen schon verwendet werden?

Genau das ist ein häufiger Ausgangspunkt. Mit dem Tech-Gutachten analysiere ich deine bestehende Tool-Landschaft, identifiziere genutzte KI-Tools und zeige dir, wo Handlungsbedarf bei Freigaben, Datenschutz und internen Regeln besteht.

Können wir eine AI Acceptable Use Policy mit einer konkreten KI-Strategie verbinden?

Ja, und genau das ist sinnvoll: Regeln allein reichen nicht, wenn unklar ist, wofür KI überhaupt eingesetzt werden soll. In der KI-Beratung klären wir mit dem PUR-Framework, welche Prozesse sinnvoll KI-fähig sind, und übersetzen das in klare Leitplanken und umsetzbare Standards.

Wer hilft uns langfristig dabei, unsere AI Acceptable Use Policy aktuell zu halten?

Wenn du nicht nur ein Dokument, sondern einen verlässlichen Sparringspartner willst, ist meine Tech-Partnerschaft als externer CTO dafür ideal. Ich begleite dich langfristig bei Tool-Entscheidungen, Reviews und Anpassungen, damit deine KI-Regeln mit deinem Unternehmen mitwachsen.