KI-Wissensmanagement im KMU: Firmenwissen mit KI auffindbar machen

Das Wissen ist da, nur niemand findet es

In fast jedem KMU steckt das halbe Firmenwissen an Stellen, an die niemand mehr denkt: in den Köpfen der erfahrensten Mitarbeiter, in unzähligen E-Mails, in verstreuten PDFs und auf einem Netzlaufwerk, das seit Jahren niemand aufgeräumt hat. Die Kollegin weiß aus Erfahrung, wie der eine Kunde tickt. Irgendwo liegt ein Angebot von 2023, das man nur kopieren müsste. Und die Antwort auf die immer gleiche Kundenfrage steht in einer Mail, die keiner mehr findet.

Das ist kein Ordnungsproblem. Es ist ein Zugriffsproblem. Und genau hier wird KI zum ersten Mal richtig nützlich, nicht als Spielzeug, sondern als Suchmaschine für das eigene Unternehmen.

Was KI-Wissensmanagement konkret bedeutet

Es geht nicht darum, alles neu zu schreiben oder ein großes Wissensportal aufzubauen, das nach drei Monaten verwaist. Ein KI-gestütztes Wissenssystem macht vorhandene Quellen durchsuchbar und beantwortet Fragen in normaler Sprache.

• Frage statt Ordnerstruktur: Statt zu raten, in welchem Ordner die Datei liegt, stellt man eine Frage und bekommt eine Antwort mit Quellenangabe.
• Zusammenfassen: Lange Angebote, Verträge oder Protokolle werden auf die Punkte eingekürzt, die für die aktuelle Entscheidung zählen.
• Über Abteilungen hinweg finden: Eine Frage holt Antworten aus Mails, Dokumenten und Notizen, ohne dass man fünf Systeme einzeln durchsucht.
• Wissen sichern: Wenn ein erfahrener Mitarbeiter geht, bleibt ein Teil seines Wissens im System statt in seinem Kopf.

Technisch läuft das meist über eine Suche, die erst die passenden Stellen aus den eigenen Dokumenten zieht und dann eine Antwort daraus formuliert. Der Fachbegriff dafür ist RAG, aber für dich zählt nur das Ergebnis: eine belegte Antwort statt eines Ordnerpfads.

Die überraschende Erkenntnis: Nicht das Modell entscheidet

Die verbreitete Annahme lautet, man brauche das größte und teuerste Sprachmodell. In der Praxis entscheidet etwas anderes: die Qualität der Quellen und die Disziplin bei der Bereitstellung.

Ein durchschnittliches Modell mit sauber aufbereiteten, aktuellen Firmendokumenten liefert bessere Antworten als das beste Modell, das auf veralteten und widersprüchlichen Dateien arbeitet. Wer seine Unterlagen nicht pflegt, automatisiert am Ende nur das Chaos. Deshalb beginnt ein gutes Projekt mit einer Auswahl: Welche Dokumente sind verlässlich, welche gehören aussortiert, und wer verantwortet die Pflege? Genau diese Arbeit ist der eigentliche Hebel, nicht die Modellwahl. Wie wir solche Systeme aufsetzen, zeigen wir auf der Leistungsseite.

Ein Beispiel aus der Praxis

Ein Steuerberatungsbüro mit 12 Mitarbeitern beantwortete immer wieder dieselben Fragen zu Fristen, Formularen und Mandantenabläufen. Jede Antwort kostete 5 bis 10 Minuten Suchen in Mails und Ordnern, mehrmals am Tag. Nach der Einführung eines KI-Wissensassistenten auf Basis der eigenen, freigegebenen Unterlagen sank die durchschnittliche Suchzeit auf unter eine Minute.

Im ersten Quartal wurden rund 70% der internen Wissensfragen direkt vom Assistenten beantwortet, jeweils mit Quellenangabe zum Prüfen. Die übrigen 30% landeten wie bisher bei den erfahrenen Kollegen, aber vorbereitet statt roh. Unterm Strich gewann das Büro pro Mitarbeiter mehrere Stunden im Monat zurück, und neue Kollegen waren deutlich schneller eingearbeitet.

Wo der Nutzen am größten ist

Ein KI-Wissenssystem lohnt sich nicht überall gleich stark. Der Nutzen ist am größten, wenn mehrere dieser Punkte zutreffen:

• Viele wiederkehrende Fragen: Wenn intern ständig dieselben Dinge gefragt werden, zahlt sich ein Assistent schnell aus.
• Wissen in vielen Köpfen: Je stärker das Wissen an einzelne Personen gebunden ist, desto größer das Risiko und der Nutzen.
• Unübersichtliche Ablage: Wenn keiner mehr weiß, wo etwas liegt, ist das der klassische Auslöser.
• Einarbeitung und Vertretung: Wer oft neue Mitarbeiter oder Vertretungen einarbeitet, spart mit jedem Zugriff Zeit.

Umgekehrt gilt: In einem sehr kleinen Betrieb mit drei Leuten, die alles im Kopf haben, ist ein Wissensassistent oft überdimensioniert. Sinnvoll wird er, wenn das Wissen die Köpfe übersteigt.

Was ein KI-Wissenssystem kostet

Die Kosten hängen davon ab, wie viele Quellen angebunden werden, wie streng die Zugriffsrechte sind und wie viel Aufbereitung die Inhalte brauchen. Als Orientierung für KMU in Deutschland:

• Einstiegsprojekt: 2.500 bis 5.000 Euro einmalig. Anbindung an eine klar abgegrenzte Dokumentenquelle, Frage-Antwort-Funktion mit Quellenangabe.
• Standardprojekt: 5.000 bis 12.000 Euro einmalig. Mehrere Quellen, Rechte- und Rollenkonzept, Anbindung an bestehende Systeme, saubere Aufbereitung der Inhalte.
• Laufend: 100 bis 400 Euro monatlich für Betrieb, Pflege der Inhalte und Anpassungen.

Wichtig ist die Einordnung: Der größte Aufwand liegt fast immer in der Aufbereitung der Inhalte, nicht in der Technik. Einen vollständigen Kostenüberblick findest du auf der Preisseite.

Recht und Datenschutz: Worauf du achten musst

Sobald Firmendaten in ein KI-System fließen, gelten klare Regeln. Vier Punkte solltest du vorher klären:

• Serverstandort EU: Die Verarbeitung sollte in der EU stattfinden, mit einem sauberen Auftragsverarbeitungsvertrag mit dem Anbieter.
• Zugriffsrechte: Ein Wissensassistent darf keine vertraulichen Inhalte an Unbefugte ausgeben. Rechte müssen aus den Quellsystemen übernommen werden, nicht nachträglich vergeben.
• Kein Training mit deinen Daten: Vertraglich absichern, dass Firmendaten nicht zum Training fremder Modelle verwendet werden.
• Nachvollziehbarkeit: Jede Antwort sollte eine Quelle nennen, damit Mitarbeiter sie prüfen können, statt blind zu vertrauen.

Womit du anfangen solltest

Der beste Einstieg ist klein und konkret: eine Quelle, eine Abteilung, eine klare Frage. Statt sofort das gesamte Firmenarchiv zu verbinden, reicht oft ein Ordner mit den 50 wichtigsten Dokumenten, um den Nutzen zu beweisen. Danach entscheidest du anhand echter Zahlen, ob sich der Ausbau lohnt.

Du willst wissen, ob sich KI-Wissensmanagement in deinem Betrieb rechnet und welche Quellen sich zuerst eignen? Vereinbare ein kostenloses Erstgespräch. Wir schauen uns deine Ablage an und zeigen dir konkret, welche Fragen ein Assistent künftig selbst beantwortet. Jetzt Gespräch vereinbaren.