Ein KI-Gateway prüft jede Anfrage mit lokalen KI-Modellen, bevor diese das Unternehmen verlassen. Sensible Daten werden erkannt, maskiert oder bleiben auf Ihren lokalen Modellen.
Ein KI-Gateway ist die beste Möglichkeit, um große Cloud-Modelle zu nutzen und dabei die Datensicherheit zu gewährleisten.
Zwischen den Nutzern und den externen Modellen sitzt eine Prüfschicht, die jede Anfrage bewertet und nach Ihrem Regelwerk entscheidet, was damit passiert.
Ihre Mitarbeiter arbeiten in einer individuellen Oberfläche mit Anmeldung. Chats lassen sich starten, fortführen und speichern, das Zielmodell wählt der Nutzer selbst.
Jede Anfrage und jeder Anhang wird geprüft – auf sensibles Unternehmenswissen, Kunden- oder Personendaten und auf Inhalte, die Ihr Haus nicht verlassen dürfen.
Sie legen selbst fest, welche Daten maskiert und welche im Haus bleiben sollen. Ihre IT kann Regeln ändern, ohne dass wir eine neue Version ausliefern.
Welche Datenkategorien bei Ihnen als sensibel gelten und wie streng das Regelwerk sein soll, legen Sie selbst fest.
Jede Anfrage läuft durch dieselbe Prüfkette. Erst danach wird entschieden, welches Modell sie bekommt.
Anfragen mit sensiblen Inhalten bleiben im Haus und werden von Ihren eigenen Modellen beantwortet.
Unkritische oder maskierte Anfragen gehen an das Modell, das der Nutzer wählt: zum Beispiel ChatGPT oder Claude.
Welche Datenkategorien bei Ihnen als sensibel gelten und wie streng das Regelwerk sein soll, legen wir gemeinsam fest.
Die Details, an denen sich in der Praxis entscheidet, ob das Gateway im Alltag funktioniert und von Nutzern akzeptiert wird.
Chats starten, fortführen und speichern, Anhänge hochladen und das Zielmodell wählen. Wie bei ChatGPT oder Claude, aber auf Ihrer Infrastruktur und mit Anmeldung über Ihr Firmenkonto.
Bestehende Automatisierungen und Anwendungen werden nicht umgebaut. In den meisten Werkzeugen genügt es, die Adresse der KI-Schnittstelle auf das Gateway umzustellen.
Auch Dokumente werden vor dem Versand geprüft: Text wird aus PDFs und Office-Dateien extrahiert, gescannte Unterlagen werden per Texterkennung lesbar gemacht.
Wird ein Kunde in der dritten Nachricht zu [K1], bleibt er das auch in der zwölften. Nur so bleiben die Antworten des externen Modells schlüssig und lassen sich sauber zurückübersetzen.
Berührt ein Chat eine kritische Datenkategorie, bleibt er dauerhaft auf dem geschützten Pfad. Nutzer können Einstufungen korrigieren, jede Änderung wird protokolliert.
Wechselt ein Nutzer mitten im Chat das Modell, geht der gesamte Verlauf an einen neuen Empfänger. Das Gateway bewertet die Historie deshalb vor dem Wechsel neu.
Ein KI-Gateway wird schrittweise eingeführt und getestet, damit das Regelwerk zuverlässig arbeitet und niemanden behindert.