1. Warum eine KI-Knowledge-Base ein strukturiertes Vorgehen erfordert
In einer unternehmensweiten Knowledge Base bündelt eine Organisation ihr gesamtes Wissen: Arbeitsanweisungen, Standardverträge, Produkthandbücher, interne Richtlinien, Protokolle und Betriebsanleitungen. An ein Sprachmodell angebunden, ermöglicht sie Fragen in natürlicher Sprache und liefert Antworten direkt auf Basis der Dokumente, statt manuell verschiedene Ordner zu durchsuchen. Der Nutzen entsteht jedoch nur, wenn die Antworten präzise sind und Lesende jede Aussage bis zum Quelldokument, dessen Versionsstand und der genauen Textstelle nachvollziehen können.
Die verbreitetste Methode ist RAG (Retrieval-Augmented Generation). Das System sucht zunächst nach relevanten Textabschnitten in den Dokumenten, woraufhin das Sprachmodell auf Basis dieser Abschnitte die Antwort formuliert. Das ist keine Installation, die an einem Nachmittag abgeschlossen ist: Sie erfordert klare Entscheidungen zu Inhalten, Strukturen, Zugriffsrechten und Qualitätsprüfungen. Jeder Fehler in einer dieser Phasen wiederholt sich eins zu eins in jeder Antwort – deshalb lohnt sich ein strukturiertes Vorgehen.
2. Voraussetzungen: Dokumente und Zuständigkeiten vor Systemen
Vor der Auswahl einer Technologie steht eine Bestandsaufnahme der Dokumente. Nicht alles, was in Netzlaufwerken liegt, gehört in die Wissensdatenbank. Entwürfe, Dubletten, veraltete Versionen und widersprüchliche Dokumente führen zu widersprüchlichen Antworten, selbst wenn das System technisch einwandfrei arbeitet. Frage die Verantwortlichen der Fachbereiche, welche Dokumente offiziell gelten, wer sie freigibt, wer sie aktualisiert und in welchen Intervallen. Die Antworten darauf sind wertvoller als jede Systemdemo.
Vor der ersten Konfigurationszeile sollten drei Regeln feststehen. Erstens eine feste inhaltliche Zuständigkeit für jede Dokumentsammlung, die über Freigaben und gültige Versionen entscheidet. Zweitens eine Mindestklassifizierung der Dokumente in interne Nutzung, vertraulich und personenbezogen, da Berechtigungen direkt darauf aufbauen. Drittens eine schriftliche Festlegung darüber, wo Daten gespeichert werden und wer Zugriff hat – abzustimmen mit dem Anbieter, bevor die erste Datei hochgeladen wird.
3. Die Schritte des Aufbaus in der richtigen Reihenfolge
Der Aufbau folgt einer logischen Sequenz. Das Überspringen eines Schritts löst das Problem nicht auf, sondern verlagert es in fehlerhafte Antworten, die erst im laufenden Betrieb auffallen, wenn niemand Zeit für die Fehlersuche hat. Jede Phase liefert ein überprüfbares Ergebnis, was auch die Argumentation gegenüber der Geschäftsleitung und dem Sicherheitsteam erleichtert. Folge den Schritten der Reihe nach und gehe erst zur nächsten Phase über, wenn der inhaltliche Verantwortliche den vorherigen Schritt schriftlich freigegeben hat.
- Anwendungsfälle definieren: Welche konkreten Fragen muss das System beantworten und für welche Benutzergruppen?
- Offizielle Quellen auswählen und veraltete Kopien aussortieren, sodass pro Thema genau eine gültige Version existiert.
- Dokumente in maschinenlesbaren Text umwandeln, bei Bedarf inklusive Texterkennung für Scans.
- Texte in kohärente Abschnitte unterteilen und mit Metadaten anreichern: Titel, Datum, Version, Verantwortlicher und Vertraulichkeitsstufe.
- Suchindex aufbauen, indem semantische Suche nach Sinngehalt mit exakter Stichwortsuche kombiniert wird.
- Berechtigungen der Quelldokumente mit der Antwortgenerierung verknüpfen, damit niemand Textabschnitte erhält, die er nicht lesen darf.
- Antworten mit präzisen Quellenangaben generieren, die Dokument, Abschnitt und Versionsstand nennen.
- System vor der Freigabe mit echten Praxisfragen evaluieren und die Bewertung nach jeder wesentlichen Änderung wiederholen.
4. Technische Architekturentscheidungen entlang des Weges
Im Projektverlauf stehen vier technische Richtungsentscheidungen an, die eine gesonderte Betrachtung verdienen. Du musst sie nicht alle gleichzeitig lösen: Beginne mit der Entscheidung, die sich zuerst stellt, und teste sie an deinen echten Dokumenten – nicht an künstlichen Beispielen oder vorbereiteten Demos des Herstellers. Die Entscheidungen beeinflussen sich gegenseitig, weshalb es sinnvoll ist, sie im Zusammenhang zu dokumentieren, statt sie bei Problemen einzeln aufzurollen.
Ein praxiserprobter Rat: Wähle keine Technologie nur deshalb, weil sie gerade im Trend liegt. Jede Entscheidung sollte an einer kleinen Auswahl realer Dokumente und Fragen getestet und nur dann beibehalten werden, wenn sie die Antwortqualität gegenüber der einfachsten Alternative messbar steigert. Reicht die einfachste Lösung für den Anwendungsfall aus, ist sie fast immer die beste Wahl: Sie lässt sich leichter prüfen, warten und gegenüber Entscheidern begründen. Komplexität muss durch messbare Ergebnisse gerechtfertigt sein, nicht durch Folien.
| Entscheidung | Zu stellende Frage | Thema zur Vertiefung |
|---|---|---|
| Aufteilung der Texte | Welche Abschnitte müssen inhaltlich zusammenbleiben | Chunking von Dokumenten und Strategien zur Segmentierung |
| Wahl des Embedding-Modells | Wie die Qualität bei italienischen Texten gemessen wird | Auswahl des Embedding-Modells für italienische Dokumente |
| Speicherort für Textpassagen | Wird eine Vektordatenbank benötigt oder reicht klassische Suche | Vektordatenbank oder traditionelle Suchtechnologie |
| Verarbeitung von Scans | Lässt sich Text sauber extrahieren oder ist visuelle Erkennung nötig | Traditionelle OCR oder multimodale Modelle |
5. Berechtigungen: Jeder sieht nur, was er lesen darf
Eine Wissensdatenbank isoliert Daten nicht standardmäßig. Landen alle Dokumente in einem einzigen, unbeschränkten Index, kann ein Mitarbeiter in einer Antwort Auszüge aus vertraulichen Unterlagen erhalten, ohne die Quelldatei je geöffnet zu haben. Die Zugriffskontrolle muss an den Quelldokumenten ansetzen und bei der Antwortgenerierung durchgesetzt werden – nicht erst in der Weboberfläche, die Suchergebnisse filtert. Ein an dieser Stelle vergessener Filter bleibt unbemerkt, bis jemand zufällig darauf stößt.
Prüfe drei Anforderungen: dass die Suche Benutzergruppen und Rollen berücksichtigt, dass Berechtigungsentzüge zeitnah und nachvollziehbar greifen und dass Audit-Logs festhalten, wer welche Dokumente abgefragt hat. Dieses Thema erfordert besondere Sorgfalt: Ein Fehler hier ist eine Datenschutzverletzung mit weitreichenden Konsequenzen, die weit über falsche Antworten hinausgehen. Verlange vom Anbieter einen praktischen Nachweis des Berechtigungsfilters im Test, nicht nur eine mündliche Bestätigung.
6. Prüfung und Aktualisierung: Woher du weißt, dass es funktioniert
Erstelle vor dem Go-Live einen Testdatensatz realer Fragen von künftigen Nutzern, jeweils mit der korrekten Antwort und dem entsprechenden Belegdokument. Dieser Datensatz ist dein Prüfmaßstab. Ohne ihn wirkt jede Antwort plausibel, und niemand kann beurteilen, ob sie stimmt – flüssig formulierte Sätze sind kein Beweis für Richtigkeit. Nimm auch Fangfragen auf, die das System nicht beantworten können darf, um zu testen, ob es Nichtwissen eingesteht statt zu halluzinieren.
Miss zwei Dimensionen getrennt voneinander: Findet das System nicht das richtige Dokument, liegt das Problem im Such- und Retrieval-Schritt. Findet es das richtige Dokument, weicht die Antwort jedoch vom Text ab, liegt das Problem in der Sprachmodell-Generierung. Wiederhole diese Evaluierung nach jeder Änderung an Dokumenten, Modellen oder Rechten. Ein Dashboard mit einem einzigen Gesamtwert reicht nicht aus, da es genau die Details verschleiert, die zur Systemoptimierung nötig sind.
7. Typische Fehler, die vermieden werden sollten
Der erste Fehler ist, beim Sprachmodell anzufangen statt bei den Dokumenten. Die modernste Technik gleicht einen unstrukturierten Datenbestand voller widersprüchlicher Dateiversionen nicht aus. Der zweite Fehler ist der Rollout im gesamten Unternehmen ohne feste inhaltliche Verantwortliche: Falsche Antworten verbreiten sich ungeprüft weiter, und niemand korrigiert sie. Der dritte Fehler ist mangelnde Pflege: Werden geänderte Dokumente nicht neu indexiert, liefert das System weiterhin veraltete Informationen, auf deren Basis fatale Fehlentscheidungen getroffen werden können.
Der vierte Fehler ist der Einsatz der Knowledge Base für Entscheidungen mit direkten Auswirkungen auf Personen – etwa bei Personalentscheidungen oder Leistungsbeurteilungen – ohne vorherige regulatorische Prüfung. Hier muss geklärt werden, ob das Vorhaben unter besondere Vorgaben der europäischen KI-Verordnung fällt. Weise in der Benutzeroberfläche stets darauf hin, dass Antworten KI-generiert sind und anhand der Originalquelle geprüft werden müssen, insbesondere bei Fristen, Beträgen und rechtlichen Pflichten.
8. Wie du diese Woche startest
Für den Start musst du noch keine Software installieren. Wähle einen überschaubaren Bereich mit wenigen offiziellen Dokumenten und wiederkehrenden Fragen, benenne eine inhaltlich verantwortliche Person und sammle typische Praxisfragen samt erwarteter Antworten. Diese Vorarbeit dauert wenige Tage und ist entscheidender als jede Systemauswahl: Sie deckt sofort auf, welche Dokumente fehlen, welche sich widersprechen und welche Berechtigungen zwingend nötig sind.
Lass den Anbieter anschließend einen Testlauf mit deinen echten Beispieldokumenten und diesen Fragen durchführen und verlange schriftliche Angaben darüber, wo Daten verarbeitet werden. Erst auf dieser Grundlage lassen sich Lösungen fundiert vergleichen und ein Projektplan mit Meilensteinen und Verantwortlichkeiten aufsetzen. Ein so aufgesetztes Projekt bleibt dauerhaft steuerbar und hängt nicht vom Gedächtnis einzelner Personen ab.
Häufig gestellte Fragen
Benötigen wir ein KI-Modell, das auf unseren Dokumenten trainiert wurde?
In der Regel nein. Bei den meisten Projekten bleibt das Basismodell unverändert und erhält bei einer Frage lediglich die passenden Textauszüge aus der Wissensdatenbank. Das eigene Vortrainieren oder Feintunen eines Modells ist deutlich aufwendiger, teurer und schwerer zu pflegen. Beginne mit RAG und beurteile die Ergebnisqualität, bevor du andere Ansätze erwägst.
Wie viele Dokumente brauchen wir für den Start?
Es gibt keine feste Untergrenze. Qualität ist wichtiger als Quantität: Eine kleine Auswahl aktueller, freigegebener Dokumente liefert verlässlichere Ergebnisse als ein riesiges, unbereinigtes Archiv. Starte in einem abgegrenzten Arbeitsbereich mit klaren Unterlagen und erweitere den Datenbestand erst nach erfolgreicher Evaluierung.
Ersetzt die KI-Knowledge-Base den Abteilungsleiter?
Nein. Das System beschleunigt das Auffinden von Informationen, aber die fachliche Verantwortung bleibt beim Menschen. Fachverantwortliche müssen Inhalte freigeben, offizielle Versionen festlegen und Fehler korrigieren. Ohne diese inhaltliche Führung verliert das System schnell das Vertrauen der Mitarbeitenden.
Gelangen Unternehmensdokumente an externe Dienste?
Das hängt von der gewählten Architektur ab. Zwei Fragen müssen getrennt werden: Wo die Daten gespeichert sind und wer rechtmäßig Zugriff darauf verlangen kann. Lass dir vom Anbieter schriftlich bestätigen, welche Komponenten Texte verarbeiten, welche Daten die Infrastruktur verlassen und wie Verschlüsselung und Protokollierung geregelt sind.
Wie lange dauert ein solches Projekt?
Der Zeitaufwand variiert je nach Dokumentenumfang, Qualität der Unterlagen und Anzahl der angebundenen Systeme. Ein Pilotprojekt mit sauberen Dokumenten ist in wenigen Wochen umsetzbar, eine unternehmensweite Einführung dauert länger. Sei skeptisch bei pauschalen Zeitversprechen, bevor der Dokumentenbestand gesichtet wurde.
Wie verhindert man, dass die KI Antworten erfindet?
Vollständig ausschließen lässt sich das Risiko nie, aber stark minimieren: Das System wird so konfiguriert, dass es ausschließlich gefundene Textpassagen nutzt, fehlende Informationen offen einräumt und Belegstellen zitiert. Systematische Tests mit realen Fragen decken Schwachstellen auf. Bei verbindlichen Fristen oder Zahlen muss die Originalquelle geprüft werden.
Wo setzen wir an, wenn bereits ein Dokumenten-Management-System existiert?
Nutze das bestehende DMS als Ausgangspunkt, statt Daten zu duplizieren. Ziel ist es, die KI-Suche direkt an die vorhandene Dokumentenstruktur und Berechtigungslogik anzubinden. Stelle sicher, dass das KI-System die Zugriffsrechte des DMS auslesen und strikt durchsetzen kann, damit keine Sicherheitskontrollen umgangen werden.