geistesblickgeistesblick · design & illustration

Corporate LLM

Unternehmenswissen, das antworten kann

Ihr Wissen. Ihre Regeln. Eine gemeinsame KI.

Ein Corporate LLM erschließt freigegebenes Wissen aus Dokumenten, Handbüchern und internen Systemen. Mitarbeitende stellen Fragen in Alltagssprache und erhalten nachvollziehbare Antworten mit Quellen.

Nicht jedes Unternehmen braucht ein eigenes Sprachmodell. Häufig ist die bessere Lösung ein kontrollierter KI-Assistent, der ein geeignetes Basismodell mit Ihren zugelassenen Informationsquellen verbindet. Modell, Datenfluss, Berechtigungen und Qualitätsprüfung werden dabei gemeinsam festgelegt.

Wie funktioniert das?
  • Findet

    relevante Informationen über Systeme und Dateigrenzen hinweg.

  • Belegt

    Antworten mit den tatsächlich verwendeten Quellen.

  • Beachtet

    Rollen, Zugriffsrechte und definierte Wissensgrenzen.

Papiermodell: Vier getrennte Dokumentablagen führen über unterschiedlich freigegebene Zugänge zu einem gemeinsamen Arbeitsbereich.

Nachvollziehbar statt magisch

Vom Dokument zur belegten Antwort

Die KI erhält nicht pauschal Zugriff auf alles. Für jede Anfrage werden zuerst Identität und Berechtigungen geprüft, dann passende Inhalte gesucht und erst danach eine Antwort erzeugt.

Anfrage

Welche Freigaben braucht ein neues Kundenangebot?

  1. 01Freigegebene Quellen

    Richtlinien, Vorlagen, Wiki, DMS oder ausgewählte Fachdaten

  2. 02Rechteprüfung

    Nutzerrolle und Quelle müssen für diese Anfrage zusammenpassen

  3. 03Gezielte Auswahl

    Nur relevante Textstellen werden als Kontext bereitgestellt

  4. 04Antwort mit Belegen

    Ergebnis, Quellenhinweise und sichtbare Unsicherheit

Belegte Antwort

Für das Angebot werden Leistungsumfang, Kalkulation und finale Freigabe benötigt. Die zuständigen Rollen und Vorlagen sind direkt verlinkt.

  • Vertriebsrichtlinie 4.2
  • Angebotsprozess
  • Freigabematrix
Papiermodell: Eine Anfrage passiert eine Zugangskontrolle; ausgewählte Textstellen bleiben mit der daraus gebildeten Antwort verbunden.

Vom Suchen zum Arbeiten

Wissen wird nutzbar, ohne unsichtbar zu werden

Heute

  • Informationen liegen in Ordnern, Wikis, Mails und Köpfen verteilt.
  • Suchbegriffe müssen exakt bekannt sein, Zusammenhänge bleiben Handarbeit.
  • Antworten werden kopiert, aber ihre Aktualität und Quelle sind oft unklar.

Mit Corporate LLM

  • Fragen können in Alltagssprache gestellt und über mehrere freigegebene Quellen beantwortet werden.
  • Antworten zeigen Fundstellen, Grenzen und verwendeten Wissensstand.
  • Rollen und Verantwortlichkeiten bleiben Teil des Informationswegs.

Ein System, konkrete Aufgaben

Wo ein Corporate LLM im Alltag hilft

Der Einstieg beginnt nicht mit möglichst vielen Daten, sondern mit einer klar abgegrenzten Aufgabe, für die Quellen, Verantwortung und Nutzen benannt werden können.

Interne Wissenssuche

Antworten aus Handbüchern, Richtlinien, Projektwissen und dokumentierten Entscheidungen finden.

Service & Support

Mitarbeitende bei wiederkehrenden Fragen unterstützen und passende Anleitungen belegen.

Onboarding

Neue Kolleginnen und Kollegen durch Prozesse, Begriffe und Zuständigkeiten führen.

Angebote & Ausschreibungen

Freigegebene Leistungsbausteine und Nachweise schneller zusammenführen, ohne Freigaben zu umgehen.

Dokumentvergleich

Versionen, Verträge oder Spezifikationen strukturiert gegenüberstellen und Fundstellen anzeigen.

Auswertung & Zusammenfassung

Lange freigegebene Dokumente nach festen Kriterien verdichten und offene Punkte kenntlich machen.

Kontrolle ist Teil der Architektur

Wissen öffnen, Grenzen behalten

Ein Corporate LLM ist nur dann belastbar, wenn Zugriff, Datenverarbeitung und Antwortqualität nicht nachträglich ergänzt, sondern von Anfang an entworfen werden.

Datenfluss

Quellen, Speicherorte, Modellanbieter und Protokollierung werden dokumentiert. Vertrauliche Daten werden nur im vereinbarten Rahmen verarbeitet.

Berechtigungen

Der Assistent darf keine Informationen sichtbar machen, auf die eine Person im Ursprungssystem keinen Zugriff hat.

Qualität

Testfragen, Quellenbelege, Ablehnungsverhalten und menschliche Prüfpunkte machen Fehler messbar und korrigierbar.

Betrieb

Verantwortlichkeiten, Aktualisierung der Wissensbasis und Umgang mit Vorfällen werden vor dem Rollout festgelegt.

Technik allein erzeugt keine Compliance. Datenschutz, Mitbestimmung, Informationssicherheit und gegebenenfalls regulatorische Pflichten müssen für den konkreten Einsatz geprüft werden.

Erst Problem, dann Modell

Wann sich ein Corporate LLM lohnt

Ein Pilot kann sinnvoll sein, wenn …

  • relevantes Wissen über viele Dokumente oder Systeme verteilt ist.
  • Mitarbeitende regelmäßig dieselben Informations- und Rechercheaufgaben lösen.
  • Quellen und Zuständigkeiten benannt werden können.
  • Antworten schneller werden sollen, ohne Nachvollziehbarkeit und Freigaben aufzugeben.

Ein Pilot ist noch nicht sinnvoll, wenn …

  • unklar ist, welches konkrete Problem der Assistent lösen soll.
  • die Wissensbasis veraltet, widersprüchlich oder ohne Verantwortliche ist.
  • vollautomatische Entscheidungen ohne geeignete Kontrolle erwartet werden.
  • ein gewöhnlicher Suchindex oder ein klarerer Prozess das Problem einfacher löst.

Die Vorprüfung darf auch mit dem Ergebnis enden, dass eine einfachere Lösung wirtschaftlicher und sicherer ist.

Klein starten, belastbar lernen

Vom Anwendungsfall zum Pilot

Jede Phase liefert eine prüfbare Entscheidungsgrundlage. Erst wenn Nutzen, Datenzugriff und Qualität zusammenpassen, wird aus dem Pilot ein produktiver Dienst.

  1. 01

    Anwendungsfall

    Ich übernehmeZielbild, Nutzergruppe, Grenzen und messbare Erfolgskriterien.

    Sie bringen einEine konkrete Aufgabe, Beteiligte und heutige Reibungsverluste.

  2. 02

    Wissensbasis

    Ich übernehmeQuelleninventur, Zugriffsmodell und Bewertung der Datenqualität.

    Sie bringen einFreigegebene Beispieldokumente und fachliche Verantwortliche.

  3. 03

    Prototyp

    Ich übernehmeFunktionaler Assistent mit begrenzten Quellen und nachvollziehbaren Antworten.

    Sie bringen einTypische Fragen, Gegenbeispiele und zeitnahes Fachfeedback.

  4. 04

    Evaluation

    Ich übernehmeTestset, Qualitätsauswertung, Kostenbild und dokumentierte Risiken.

    Sie bringen einFachliche Bewertung und Entscheidung über notwendige Korrekturen.

  5. 05

    Betrieb

    Ich übernehmeProduktionskonzept, Monitoring, Einweisung und geregelte Weiterentwicklung.

    Sie bringen einFreigaben, Verantwortlichkeiten und einen verbindlichen Betriebskorridor.

Papiermodell: Testanfragen durchlaufen Quellen-, Rechte- und Qualitätsprüfungen, bevor ein kleiner Pilot für den Einsatz freigegeben wird.

Leistungsumfang

Was der Corporate-LLM-Pilot umfasst

Der genaue Aufbau richtet sich nach Datenlage, Schutzbedarf und vorhandener IT. Diese Bausteine schaffen einen belastbaren Startpunkt.

  • Anwendungsfall- und Prozessanalyse mit klarer Abgrenzung
  • Quelleninventur sowie Rollen- und Berechtigungskonzept
  • Auswahl von Modell, Hosting- und Integrationsansatz
  • RAG-Prototyp mit freigegebenen Beispieldaten und Quellenbelegen
  • Testfragen, Qualitätskriterien und dokumentiertes Ablehnungsverhalten
  • Kosten-, Risiko- und Betriebseinschätzung für die nächste Ausbaustufe
  • Übergabe, Einweisung und nachvollziehbare technische Dokumentation

Häufige Fragen

Corporate LLM verständlich erklärt

Müssen wir dafür ein eigenes Sprachmodell trainieren?

Meistens nicht. Für viele Wissensanwendungen reicht ein geeignetes Basismodell, das zur Anfrage passende Inhalte aus einer kontrollierten Wissensbasis erhält. Eigenes Training oder Fine-Tuning ist nur sinnvoll, wenn der konkrete Anwendungsfall es rechtfertigt.

Werden unsere Unternehmensdaten zum Training verwendet?

Das hängt vom gewählten Anbieter, Vertrag und Betriebsmodell ab und darf nicht pauschal angenommen werden. Vor dem Pilot werden Datenfluss, Speicherfristen, Trainingsnutzung und Unterauftragnehmer ausdrücklich geprüft und festgelegt.

Muss das System in unserer eigenen Infrastruktur laufen?

Nicht zwingend. Je nach Schutzbedarf kommen verwaltete Unternehmensangebote, eine private Cloud oder ein stärker isolierter Betrieb infrage. Die Architektur folgt den Daten und Risiken, nicht einem pauschalen On-Premise-Versprechen.

Kann der Assistent bestehende Zugriffsrechte beachten?

Ja, wenn Identitäten, Rollen und Quellrechte technisch sauber verbunden werden. Berechtigungen müssen vor der Suche und Ausgabe durchgesetzt und mit repräsentativen Tests geprüft werden.

Wie werden erfundene Antworten verhindert?

Vollständig ausschließen lassen sie sich nicht. Relevante Quellen, Belege, klare Antwortgrenzen, ein gutes Testset und menschliche Prüfung bei folgenreichen Aufgaben reduzieren das Risiko und machen Fehler sichtbar.

Ist ein Corporate LLM automatisch DSGVO- und AI-Act-konform?

Nein. Compliance entsteht aus dem konkreten Zweck, den verwendeten Daten, Verträgen, Schutzmaßnahmen und organisatorischen Regeln. Rechtliche und betriebliche Anforderungen müssen für den tatsächlichen Einsatz geprüft werden.

Kontakt

Am Anfang steht ein Gespräch

Vom ersten Gedanken bis zum fertigen Entwurf – erzählen Sie mir, woran Sie arbeiten. Ich antworte zeitnah, persönlich und mit echtem Interesse an Ihrer Idee.

Einstieg wählen

  1. 01Einstieg
Was brauchen Sie gerade?

Wählen Sie zwischen kurzer Orientierung, einer konkreten Projektanfrage oder einer direkten Nachricht ohne zusätzliche Projektangaben.