LOKI
Technische Daten.
Tech-Specs
- Bereitstellung
- On-Premises auf mitgelieferter Hardware (Docker Compose). Betrieb vollständig offline möglich (Air-Gap). NVIDIA-GPU-Unterstützung.
- Sprachmodell (Standard)
- Lokales LLM mit offenen Gewichten (122 Mrd. Parameter, quantisiert) auf eigener GPU-Hardware, inkl. Reasoning-Modus.
- Optionale Modell-Anbieter
- Anthropic, OpenAI, Google Gemini, Mistral AI, Cohere, Groq, DeepSeek, xAI, OpenRouter und OpenAI-kompatible Endpunkte. Zur Laufzeit per Dashboard, Keys verschlüsselt.
- Retrieval
- Hybrid-Suche (Vektor + Sparse-Fusion) auf PostgreSQL/pgvector, Cross-Encoder-Reranking, semantische und exakte Mustersuche.
- Dokumentenanalyse
- Strukturbewusstes Parsing (Layout, Tabellen, OCR de/en), Vision-Modell für Bilder, lokale Whisper-Transkription für Audio und Video.
- Dateiformate
- 50, u. a. PDF, DOCX/DOC/ODT/RTF, XLSX/XLS/ODS/CSV, PPTX/PPT, MSG (inkl. Anhänge), PNG/JPG/TIFF/SVG, MP4/MOV/MKV/MP3/WAV, TXT/MD/HTML/JSON/YAML.
- Agent-Werkzeuge
- Dokumentensuche (semantisch und exakt), Websuche mit Seitenabruf und Quellen, Python-Sandbox mit Diagrammen, SQL auf angebundene Datenbanken, Word- und PowerPoint-Erzeugung, arXiv, Wetter. Dazu Human-in-the-Loop-Freigaben.
- Zugriffskontrolle
- Rollen (Admin/Manager/Nutzer), Gruppen, Wissensdatenbanken als Scopes mit Security-Trimming im Vektorindex.
- Anmeldung
- Benutzername/Passwort (JWT, httpOnly-Cookies) und Microsoft Entra ID SSO (mandantenfähig, Tenant-Freischaltung). Konfiguration zur Laufzeit im Dashboard, automatische Gruppenzuweisung für neue SSO-Nutzer. Zwei-Faktor-Anmeldung (TOTP) mit Wiederherstellungscodes, auf Wunsch verpflichtend. Sperre nach wiederholten Fehlversuchen, Passwort zurücksetzen per E-Mail.
- Microsoft 365
- SharePoint-Ordner und -Bibliotheken als Dokumentenquellen (inkrementeller Sync: neue, geänderte und gelöschte Dateien), Entra-Gruppen-Sync, Übernahme der SharePoint-Zugriffsrechte. Sync-Läufe nachvollziehbar im Dashboard, automatisch oder auf Knopfdruck.
- Datenbanken
- PostgreSQL, MySQL, MariaDB, Microsoft SQL Server und Oracle. Nur lesende Abfragen, freigegeben je Gruppe.
- Websuche
- Selbst gehostete Meta-Suchmaschine (SearXNG) auf der Appliance. Treffer und abgerufene Seiten als nummerierte Quellen, keine Abrufe interner Adressen, Prüfung durch HEIMDALL vor dem Senden, je Chat abschaltbar.
- Cloud-Kontingent
- Token-Budget für das ganze Unternehmen je Tag, Woche und Monat. Hinweis ab 80 %, bei 100 % automatisch weiter mit dem lokalen Modell.
- Einrichtung & Updates
- Einrichtungsassistent auf Deutsch und Englisch: Adressen, Zertifikat, erster Admin, Zwei-Faktor-Anmeldung. Signierte Updates per Klick im Dashboard, mit Änderungsnotizen, automatischer Datenbanksicherung und Rückkehr zu einer älteren Version.
- Audit & Monitoring
- Protokoll externer Modellzugriffe inkl. Tokenverbrauch, Aktivitätsprotokoll, Nutzungsstatistiken, OpenTelemetry-Tracing und -Metriken.
- Oberflächen
- Chat-App, Admin-Dashboard, einbettbares Website-Widget. Deutsch und Englisch, Hell- und Dunkelmodus.
- Ingestion
- Upload per Drag-and-drop (bis 100 MB im Chat, 50 MB im Dashboard), überwachte Serverordner mit täglichem Sync, SharePoint-Quellen mit inkrementellem Sync, Massenimport und -export.
Und das ist längst nicht alles.
Wissen anbinden
- PDF, Office, Mails, Bilder, Audio, Video
- Scans per Texterkennung, Deutsch und Englisch
- Tabellen bleiben Tabellen
- Formeln als LaTeX gelesen
- Abbildungen und Zeichnungen beschrieben
- Mitschnitte lokal transkribiert
- Gespeicherte Outlook-Mails samt Anhängen
- Hochladen per Ziehen, mit Zugriffsgruppe
- Serverordner überwachen, Ausnahmen setzen
- SharePoint einbinden, Dateien bleiben dort¹
- SharePoint-Rechte werden übernommen¹
- Datenbanken von PostgreSQL bis Oracle
- MySQL, MariaDB und SQL Server ebenso
- Fortschritt beim Einlesen, Fehler neu starten
Fragen
- Datenquellen je Chat wählen
- Im Netz recherchieren, mit eigener Suchmaschine
- Sucht nach Bedeutung und Stichwort
- SQL-Datenbank in Alltagssprache fragen
- Postfach durchsuchen, nur lesend¹
- Dateien direkt an die Frage hängen
- Diktieren, lokal erkannt
- Modell im Chat wählen, lokal als Standard
- Aufwand wählen: schnell, mittel, gründlich
- Warnbanner bei Cloud-Modell
- Rückfrage, bevor Sensibles rausgeht²
- Lokal verarbeiten statt senden²
- Nachricht bearbeiten und neu senden
- Antwort jederzeit stoppen
Antwort prüfen
- Nummerierte Quellen im Text
- Webseiten als Quelle, mit Link
- Fundstelle im PDF farbig markiert
- Fundstelle auch in Word markiert
- Abbildungen aus der Quelle in der Antwort
- Denkweg aufklappbar, mit Dauer
- Jeder Werkzeugaufruf mit Eingabe und Ergebnis
- SQL und Python im Klartext
- Nur lesende Datenbankabfragen
- Diagramme aus echtem Code
- Diagramm per Klick in voller Größe
- HTML-Vorschau ohne Skripte
- Formeln, Tabellen, Mermaid-Diagramme
- Antwortet in der Sprache der Frage
Weiterarbeiten
- Export als PDF, mit Quellen und Anhängen
- Nur ausgewählte Nachrichten exportieren
- Antwort mit einem Klick kopieren
- Vorlesen nur mit Stimmen des Geräts
- Daumen hoch oder runter, mit Anmerkung
- Feedback mit Screenshot
- Volltextsuche über alle Chats
- Treffer im Chat markiert, mit Navigation
- Chats anheften und per Ziehen sortieren
- Chat-Titel automatisch vergeben
- „Merk dir …“ für spätere Chats
- Gedächtnis einsehen, löschen, abschalten
- Lernt aus abgeschlossenen Chats, abschaltbar
- Merkt, wenn etwas nicht mehr gilt
Verwalten und absichern
- Rechte gelten bis in den Suchindex
- Auch Admins sehen im Chat nur Freigegebenes
- Rechteänderung ohne Neu-Einlesen
- Werkzeuge je Gruppe freigeben
- Zugriff je Nutzer auf einen Blick
- Anmeldung mit Microsoft Entra ID¹
- Anmeldung in zwei Schritten
- Sperre nach wiederholten Fehlversuchen
- Konten sperren statt löschen
- Eigene Muster, etwa für Auftragsnummern²
- Jede Entscheidung im Prüfprotokoll²
- Jede Cloud-Anfrage protokolliert
- Token-Limit je Cloud-Anbieter, dann lokal
- Signierte Updates mit automatischer Rücknahme³
¹ Mit Microsoft 365. ² Mit HEIMDALL, sobald eine Richtlinie aktiv ist. ³ Braucht eine Verbindung zur Update-Quelle.
Durchdacht. Bis ins Detail.
Sichtbares Denken.
Die Überlegungen des Modells streamen live mit. Einklappbar, mit Zeitangabe.
Einfach sprechen.
Spracheingabe mit Live-Wellenform, lokal transkribiert.
Merkt sich, was zählt.
LOKI merkt sich, was bleibt: Name, Rolle, wiederkehrende Projekte. Auch über Unterhaltungen hinweg. Das Gespeicherte lässt sich jederzeit einsehen, löschen und abschalten.
Chat als PDF.
Ganze Unterhaltungen samt Quellen exportieren.
Alles wiederfinden.
Suche über den Chatverlauf mit Treffer-Navigation, Chats anpinnen und umbenennen.
Schöner Code.
Markdown mit Syntax-Highlighting, Mermaid-Diagrammen und LaTeX-Formeln.
Nachbessern erlaubt.
Eigene Nachrichten bearbeiten und neu ausführen.
Deine Sprache, Dein Look.
Deutsch und Englisch, Hell- und Dunkelmodus, Anhänge bis 100 MB.
LOKI überall. Auch auf Eurer Website.
Ein Skript-Tag genügt, und LOKI beantwortet Fragen direkt auf Eurer Website: als dezente Chat-Blase in Euren Farben, mit Eurem Logo und Euren vorgeschlagenen Einstiegsfragen. Besucher brauchen kein Konto. Das Widget greift nur auf die Inhalte zu, die Ihr dafür freigebt.

Ein Stack. Ein Befehl.
LOKI kommt als kompletter Container-Stack auf spezialisierter Hardware: Reverse Proxy mit TLS, API, Hintergrund-Worker, Vektordatenbank, Oberflächen und die Code-Sandbox, fertig verdrahtet. Und mit Offline-Modus für Umgebungen ganz ohne Internet: Alle Modellgewichte sind bereits vorinstalliert. Ein Assistent führt durch die Einrichtung, und Updates installiert Ihr per Klick im Dashboard, wann Ihr wollt. Die Datenbank wird vorher automatisch gesichert.
Air-Gap-fähig.
Im Offline-Modus findet kein einziger externer Download statt. Alles ist an Bord.
Sandbox mit Einbahnstraße.
Vom Agenten ausgeführter Code läuft in einem Container ohne Netzwerkzugang, ohne Schreibrechte, mit harten Ressourcen-Limits. Erreichbar nur über einen Einweg-Proxy.
Messbar.
Jeder Request, jedes Werkzeug und jede Indexierung lässt sich nachvollziehen. Auf Wunsch mit mitgeliefertem Monitoring.
Jedes Modell. Deine Regeln.
Ab Werk arbeitet LOKI mit einem großen Sprachmodell mit offenen Gewichten auf der mitgelieferten GPU-Hardware. Ohne API-Schlüssel und ohne Cloud. Wenn Du mehr willst, schaltest Du per Dashboard zusätzliche Anbieter frei: Anthropic, OpenAI, Google, Mistral, Cohere, Groq, DeepSeek, xAI, OpenRouter oder jeden OpenAI-kompatiblen Endpunkt. Bei vielen Modellen wählst Du dazu den Aufwand: schnell, mittel oder gründlich.
Lokal als Standard.
Das mitgelieferte Modell läuft auf Deiner Hardware. Fällt ein Cloud-Anbieter aus, springt es automatisch ein.
Warnt bei Cloud.
Nutzt ein Chat ein externes Modell, sehen alle Beteiligten in dieser Unterhaltung ein deutliches Warnbanner.
Schlüssel sicher.
API-Keys werden verschlüsselt gespeichert und nie im Klartext angezeigt.
Heute live. Und was kommt.
LOKI wächst mit jedem Release. Hier ist der aktuelle Stand.
Heute live
- Belegte Antworten mit Quellen-Markierung im PDF
- 50 Dateiformate inkl. Audio- und Video-Transkription
- Live-Datenbankzugriff (SQL via natürlicher Sprache)
- Word, PowerPoint und Diagramme direkt aus dem Chat
- Human-in-the-Loop für sensible Aktionen
- Microsoft 365: Entra ID SSO, SharePoint als Dokumentenquelle mit inkrementellem Sync und übernommenen Berechtigungen, Kalender per Slash-Befehl
- HEIMDALL als eingebauter Compliance-Filter für externe KI-Aufrufe: NER plus Regex, entscheiden im Chat, jeder Aufruf im Audit-Log
- Dauerhaftes Gedächtnis über Unterhaltungen hinweg
- Feedback zu Antworten direkt im Chat
- Embed-Widget für die eigene Website
- Dashboard mit Nutzungsstatistiken
- Websuche über eine selbst gehostete Suchmaschine, mit Quellen und HEIMDALL-Prüfung
- Anmeldung in zwei Schritten und Sperre nach Fehlversuchen
- Cloud-Kontingent je Tag, Woche und Monat, danach automatisch lokal
- Updates per Klick im Dashboard, mit Datensicherung und Rückkehr zur Vorversion
In Entwicklung
- Präsentationen im Dialog verfeinern, Folie für Folie, mit Live-Vorschau
- Proaktive Überwachung mit Benachrichtigungen
- Skill-Marketplace mit kuratierten Workflows
Plattform-Charakter
LOKI ist Endprodukt und Plattform zugleich. Wer mit dem Endprodukt startet, kann später eigene Skills ergänzen. Wer mit eigener Entwicklung beginnt, hat von Tag eins die volle technische Tiefe.
LOKI kann Fehler machen. Wichtige Informationen bitte anhand der zitierten Quellen prüfen.