1. Was wir unter privater KI verstehen
Private KI bezeichnet ein System für künstliche Intelligenz, das in einer dedizierten oder vollständig kontrollierten Umgebung eines Unternehmens betrieben wird, statt auf einen gemeinsam mit vielen anderen Kunden genutzten öffentlichen Dienst zuzugreifen. Der Begriff ist nicht standardisiert. Manche verstehen darunter ein auf eigenen Servern installiertes Modell, andere einen Managed Service in einer vertraglich abgesicherten, isolierten Umgebung. Wenn ein Anbieter diesen Begriff verwendet, frage immer nach, was er in der Praxis konkret bedeutet.
Der praktische Unterschied betrifft drei Kernfragen: wo Daten verarbeitet werden, wer Zugriff auf die verarbeitenden Systeme hat und wer bestimmt, welches Modell genutzt und wann es aktualisiert wird. Ein privates System ist nicht automatisch sicherer als ein öffentlicher Dienst. Es bietet jedoch mehr Kontrolle über genau diese drei Aspekte – und diese Kontrolle ist der Grund, warum die Entscheidung von Fall zu Fall geprüft werden muss.
2. Wie ein KI-System im Unternehmen funktioniert
Ein generatives KI-System im Unternehmen besteht aus mehreren Komponenten. Es gibt ein Sprachmodell, also das Programm, das Texte generiert. Es gibt eine Zugriffsschicht, die Benutzeranfragen entgegennimmt und Berechtigungen prüft. Häufig bestehen Schnittstellen zu internen Dokumenten sowie ein Regelwerk, das festlegt, worauf das System zugreifen und was es ausführen darf. Das Modell ist der sichtbarste Teil, bestimmt jedoch selten allein die Betriebsrisiken oder die Komplexität.
Stellt eine Person eine Anfrage, wird diese über die Zugriffsschicht an das Modell weitergeleitet, welches die Antwort liefert. Ist das System an Unternehmensdokumente angebunden, werden relevante Textabschnitte vorab abgerufen und der Anfrage hinzugefügt. Jeder dieser Schritte kann an einem anderen Ort stattfinden und Kopien in Protokollen, temporären Speichern oder Archiven hinterlassen. Daher lautet die entscheidende Frage nicht nur, wo das Modell ausgeführt wird, sondern wo Daten in jeder Phase transportiert und gespeichert werden.
3. Die Optionen im Vergleich
Es gibt drei Hauptoptionen mit unterschiedlichen Vor- und Nachteilen. Ein geteilter öffentlicher Dienst ist schnell eingerichtet und genügt für allgemeine Aufgaben ohne vertrauliche Informationen, sofern klare Nutzungsregeln gelten. Eine durch einen Dienstleister betriebene dedizierte Umgebung bietet isolierte Ressourcen und präzisere vertragliche Bedingungen. Eine On-Premise-Installation in eigener Infrastruktur gewährleistet maximale Kontrolle, erfordert jedoch internes Know-how, Wartung und regelmäßige Updates im laufenden Betrieb.
Die Tabelle liefert einen qualitativen Überblick. Da Details je nach Anbieter und Vertrag variieren, reichen Marketingbegriffe nicht aus. Verlange schriftliche Auskunft darüber, wo Anfragen verarbeitet werden, welche Protokolle wie lange gespeichert bleiben und wer administrativen Zugriff hat. Eine vage Antwort auf einen dieser Punkte liefert bereits wertvolle Hinweise auf die Eignung des Anbieters.
| Option | Wo die Daten liegen | Wer über das Modell entscheidet | Interner Aufwand |
|---|---|---|---|
| Geteilter öffentlicher Dienst | Infrastruktur des Anbieters zu dessen Bedingungen | Gering: Versionen und Regeln legt der Anbieter fest | Gering, aber die Nutzung muss geregelt werden |
| Gemanagte dedizierte Umgebung | Für das Unternehmen reservierter Bereich mit vertraglichen Garantien | Mittel: Konfiguration und Modelle werden abgestimmt | Mittel: Verantwortliche Person für den Vertrag erforderlich |
| On-Premise oder eigene Infrastruktur | Server des Unternehmens oder eines dedizierten Anbieters | Hoch: Auswahl und Aktualisierung der Modelle | Hoch: Dauerhafte Fachkenntnisse und Wartung |
4. Wann es sich wirklich lohnt
Private KI lohnt sich vor allem dann, wenn mehrere Faktoren zusammentreffen: Die verarbeiteten Daten sind vertraulich oder personenbezogen, etwa Kundendaten, Verträge, Personaldaten oder unveröffentlichte Entwicklungen. Zudem muss das System interne Dokumente verarbeiten, die das Unternehmensnetzwerk nicht verlassen dürfen. Die Verarbeitung personenbezogener Daten erfordert die Einhaltung der Datenschutz-Grundverordnung (DSGVO), und die NIS2-Richtlinie, die in Italien durch D.Lgs. 138/2024 umgesetzt wurde, kann je nach Unternehmensgröße und Branche verbindlich sein.
Es lohnt sich nicht bei allgemeinen Aufgaben wie dem Umformulieren von E-Mails oder Zusammenfassen öffentlicher Texte, sofern keine sensiblen Daten berührt werden. Ebenso wenig ergibt es Sinn, wenn im Unternehmen niemand das System steuern kann: Eine private Umgebung ohne klare Zuständigkeit ist schwerer zu kontrollieren als ein sauber reglementierter öffentlicher Dienst. Die Gesamtkosten hängen von Umfang, Nutzerzahl, Betriebsmodell und Support-Level ab und müssen individuell kalkuliert werden.
5. Daten, Standort und Zugriff: Drei verschiedene Fragen
Viele Diskussionen über Datensouveränität vermengen drei Aspekte: Der erste betrifft den physischen Speicherort der Daten. Der zweite betrifft den Verarbeitungsort. Der dritte betrifft die Frage, wer rechtmäßig Zugriff auf die Daten verlangen kann – also welche Gesetze und Behörden den Anbieter zur Herausgabe verpflichten können. Ein Anbieter kann Daten in Europa speichern und dennoch Auskunftsersuchen nach dem Recht seines Hauptsitzlandes unterliegen. Diese drei Fragen müssen getrennt voneinander bewertet werden.
Die Fragen an den Anbieter müssen präzise sein: Wo werden Anfragen gespeichert und verarbeitet, wer innerhalb des Konzerns kann unter welchen Kontrollen darauf zugreifen, wie werden Protokolle verwaltet, was passiert mit den Daten nach Vertragsende und wie werden Datentransfers außerhalb des Europäischen Wirtschaftsraums gehandhabt? Lass dir die Antworten im Hauptvertrag oder in einer Anlage verbindlich zusichern, nicht nur in Präsentationen. Eine Rechtsberatung hilft bei der Prüfung.
6. Risiken und Kontrollen, die eingeplant werden müssen
Ein privates KI-System reduziert bestimmte Risiken, lässt andere jedoch unverändert bestehen. Unsachgemäße Nutzung durch Mitarbeitende bleibt ein Risiko, ebenso wie fehlerhafte Antworten, die als Fakten ausgegeben werden, sowie Anfälligkeiten für manipulierte Anweisungen in Dokumenten oder Webseiten – sogenannte Prompt-Injection-Angriffe, bei denen manipulierte Texte das Verhalten des Modells steuern. Eine geschlossene Umgebung beseitigt diese Risiken nicht, da sie von Konfiguration und Nutzung abhängen. Nötig sind Kontrollen auf mehreren Ebenen, nicht eine einzelne Schutzmauer.
Die Basiskontrollen ähneln sich in fast jedem Szenario und sollten passend zur Datenklassifizierung und den Befugnissen des Systems gewählt werden. Nicht alle müssen ab Tag eins aktiv sein: Beginne mit den ersten fünf und erweitere sie bei wachsendem Einsatzbereich. Jede Kontrolle benötigt eine zuständige Person, die deren Wirksamkeit beurteilt. Dokumentiere zudem, wer diese Prüfungen wann durchführt.
- Rollenbasierte Zugriffsberechtigungen für alle Dokumente, die das System einsehen darf.
- Protokollierung aller Anfragen und der Quellen, die für Antworten herangezogen wurden.
- Ein Verfahren zur menschlichen Prüfung von Ausgaben, die in Entscheidungen oder externe Mitteilungen einfließen.
- Tests und Kontrollen bei jeder Aktualisierung des Modells oder der angebundenen Datenquellen.
- Eine benannte verantwortliche Person mit technischen und fachlichen Ansprechpartnern.
7. Typische Fehler bei der Auswahl
Der erste Fehler ist die Annahme, dass privat automatisch sicher bedeutet. Ein vor Ort installiertes System ohne Updates, mit geteilten Zugängen und fehlender Protokollierung kann anfälliger sein als ein von Spezialisten sorgfältig gemanagter Dienst. Der zweite Fehler ist der Glaube, eine Vertragsklausel allein löse die Datenfrage. Der Vertrag ist unverzichtbar, muss jedoch durch technische Kontrollen und gelebte organisatorische Prozesse verifiziert werden.
Der dritte Fehler besteht darin, beim Modell anzufangen. Die Wahl des Modells ist wichtig, folgt aber in der Regel erst nach der Definition von Prozessen, Datenkategorien und Zuständigkeiten. Der vierte Fehler ist der Versuch, alles auf einmal umzusetzen. Starte mit einem eng umrissenen Anwendungsfall, miss die Ergebnisse und erweitere das Vorhaben erst, wenn die Basiskontrollen stabil greifen.
8. Fragen, die vertiefende Leitfäden behandeln
Dieser Leitfaden bietet einen Überblick. Zu jedem angesprochenen Thema gibt es vertiefende Leitfäden, von denen einige priorisiert gelesen werden sollten. Die häufigsten Fragen betreffen die Nutzung durch Mitarbeitende, die Auswahl erster Anwendungsfälle, die Aufbereitung interner Daten und die Qualität von Antworten. Du musst nicht alles an einem Tag lesen: Sinnvoll ist eine Reihenfolge, die bei internen Spielregeln ansetzt, da alle weiteren Schritte darauf aufbauen.
Folgende Themen sollten nach Priorität vertieft werden: Das erste klärt die Spielregeln, das zweite deckt inoffizielle Nutzung auf, und die weiteren behandeln Daten, Anwendungsfälle sowie die Prüfung von Antworten. Lies sie nacheinander statt parallel und leite aus jedem Leitfaden die konkrete Entscheidung für dein Unternehmen ab. Es besteht keine Notwendigkeit, alles gleichzeitig umzusetzen.
- Wie eine Policy zur Nutzung generativer KI für Mitarbeitende verfasst wird.
- Shadow AI: Unautorisierte Werkzeuge erkennen und strukturiert erfassen.
- Welche ersten Anwendungsfälle nach Nutzen und Machbarkeit gewählt werden sollten.
- Wie Dokumente und Daten vor der Anbindung an ein KI-System aufbereitet werden.
- Fine-Tuning oder RAG: Welcher Ansatz für deinen Anwendungsfall geeignet ist.
- Halluzinationen von Modellen: Wie Fehler reduziert und Antworten verifiziert werden.
- Prompt Injection und typische Schwachstellen moderner Sprachmodelle.
- Wie der wirtschaftliche Wert von KI ohne erfundene Zahlen fundiert bewertet wird.
9. Wie du startest
Der erste Schritt für diese Woche ist pragmatisch: Erfasse alle Prozesse, in denen bereits KI-Werkzeuge eingesetzt werden – auch inoffiziell – und notiere, welche Daten eingegeben und welche Ergebnisse ausgegeben werden. Diese Übersicht zeigt schnell, wo verbindliche Regeln fehlen und wo reale Risiken liegen. Für diese Bestandsaufnahme brauchst du weder externe Anbieter noch tiefes Spezialwissen.
Im zweiten Schritt besprichst du diese Liste mit der IT-Leitung, dem Datenschutzbeauftragten und Vertretern der betroffenen Fachabteilung. Wählt gemeinsam einen einzigen risikoarmen Anwendungsfall aus, legt die Zuständigkeit fest und definiert die erlaubten Datenquellen. Erst dann ist der richtige Zeitpunkt, Angebote einzuholen – mit den Fragen aus Abschnitt fünf als Anforderungskatalog.
Häufig gestellte Fragen
Ist private KI immer sicherer als ein öffentlicher Dienst?
Nein. Eine dedizierte Umgebung bietet mehr Kontrolle über Speicherort und Administration, aber die Sicherheit hängt von Konfiguration, Updates, Zugriffsrechten und Prozessen ab. Ein vernachlässigtes On-Premise-System kann verwundbarer sein als ein professionell gemanagter Cloud-Dienst. Beurteile stets das konkrete Gesamtsystem statt Marketingbegriffe.
Brauche ich eigene Server im Haus für private KI?
Nicht zwingend. Dedizierte, von einem Anbieter gemanagte Umgebungen mit isolierten Ressourcen und klaren Verträgen eignen sich für viele Unternehmen. Eine On-Premise-Installation ist sinnvoll bei strengen regulatorischen Vorgaben oder bestehendem internen Betriebsteam. Vergleiche Schutzbedarf der Daten, Branchenvorgaben und verfügbare Ressourcen.
Wenn der Anbieter garantiert, dass Daten in Europa bleiben: Ist das Problem gelöst?
Nur teilweise. Der Speicherort ist getrennt von der Frage zu betrachten, wer rechtmäßig Zugriff verlangen kann. Unterliegt der Anbieter dem Recht eines Drittstaats, können dessen Behörden zur Datenherausgabe verpflichten. Lass beide Aspekte im Vertrag absichern und durch eine Rechtsberatung prüfen.
Welche gesetzlichen Vorschriften muss ich beachten?
Das hängt von Branche, Unternehmensgröße und Datenkategorien ab. Die DSGVO ist fast immer relevant, sobald personenbezogene Daten verarbeitet werden. Die NIS2-Richtlinie, in Italien umgesetzt durch D.Lgs. 138/2024, gilt für bestimmte Sektoren. Zudem bringt der europäische AI Act Pflichten für Betreiber bestimmter KI-Systeme mit sich. Eine Fachberatung klärt deinen konkreten Status.
Beseitigt private KI inhaltliche Fehler in den Antworten?
Nein. Auch ein privates System kann falsche Antworten liefern, da Zuverlässigkeit vom Modell und der Einbindung abhängt. Die Lösung liegt in Verifikationsprozessen: Ausgaben, die in Entscheidungen oder Kundenkommunikation einfließen, müssen von qualifizierten Personen geprüft werden, und die herangezogenen Quellen müssen transparent nachvollziehbar sein.
Was kostet ein privates KI-System?
Es gibt keinen Pauschalpreis. Die Kosten hängen von Nutzungsumfang, Benutzeranzahl, Betriebsmodell (Managed oder On-Premise) und Supportanforderungen ab. Sei vorsichtig bei Angeboten, die Preise vor der Anwendungsfalldefinition nennen. Verlange eine transparente Aufstellung aller Annahmen, um Angebote fundiert zu vergleichen.
Wo fange ich an, wenn sich intern noch niemand um KI kümmert?
Beginne mit einer Bestandsaufnahme bestehender, auch informeller Nutzungen und einer klaren Vorgabe, welche Daten keinesfalls in externe Tools eingegeben werden dürfen. Benenne anschließend eine Person, die Entscheidungen koordiniert – auch in Teilzeit. Eine klare Verantwortung ist unverzichtbar.