KI-Modelle: heute Mistral, künftig auch lokal

Im System arbeiten zwei verschiedene KI-Bausteine mit klar getrennten Aufgaben — und beide sind mit Blick auf europäische Datenverarbeitung gewählt.

Das Antwortmodell

Die eigentliche Antwort formuliert ein europäisches Sprachmodell (Mistral, Frankreich, EU-gehostet). Es bekommt nur die zu Ihrer Frage gefundenen Dokumentstellen und formuliert daraus die Antwort — mit Quellenangabe. Es greift nicht auf Weltwissen zurück und erfindet nichts (siehe „Wie die Suche funktioniert").

Für Kunden mit höchsten Qualitätsansprüchen ist optional ein alternatives Spitzenmodell (z. B. Claude) über EU-Rechenzentren wählbar — pro Kunde entscheidbar.

Das Embedding-Modell

Damit Bedeutungssuche möglich ist, wird jeder Wissensbaustein in einen Suchvektor übersetzt. Dieser Schritt läuft auf einem offenen Modell auf unseren eigenen Servern — Ihre Dokumenteninhalte verlassen dafür die Infrastruktur nicht. Das Modell ist mehrsprachig und bildet Deutsch und Englisch im selben Bedeutungsraum ab.

Ein ehrlicher Trade-off: Ein offenes Modell hat gegenüber proprietären API-Spitzenmodellen minimal geringere Rohleistung. Dafür bleiben Ihre Inhalte vollständig bei uns und werden nicht an Dritte weitergegeben. Das ist bewusst so gewählt.

Ausblick: lokale Sprachmodelle

Für Anforderungen an höchste Datenhoheit ist vorgesehen, künftig auch das Antwortmodell lokal zu betreiben — also ohne externen KI-Anbieter. Sobald dies verfügbar ist, wird es hier ergänzt.