Entscheidungen in Millisekunden: Was KI-Classifier für Ihre Daten bedeuten

Icon For Clock 5 Min. Lesezeit

Mit Jev von TypeSafe AI ist im Herbst 2026 eine neue Klasse von KI-Modellen verfügbar geworden, die keine Texte schreibt, sondern Entscheidungen trifft. Sie ist deutlich schneller und um ein Vielfaches günstiger als die großen Sprachmodelle, die seit einigen Jahren den Takt vorgeben. Dieser Artikel ordnet ein, was technisch neu ist, warum sich der Blick darauf für mittelständische Unternehmen lohnt und wo die Grenzen liegen.

Classifier: ein altes Prinzip, neu gedacht

Classifier gibt es seit Jahrzehnten, lange bevor Sprachmodelle wie ChatGPT bekannt wurden. Das Prinzip ist einfach: Ein Modell wird mit eigenen Beispielen trainiert. Zeigt man ihm anschließend ein Bild, antwortet es etwa mit „90 % Apfel“. Der Haken lag im Aufwand. Jede Fragestellung brauchte eigene Trainingsdaten und ein eigenes Training, und die Ergebnisse blieben trotz dieses Aufwands oft mittelmäßig. Für die meisten Unternehmen war das schlicht nicht wirtschaftlich.

Ein generalisierter Classifier wie Jev funktioniert anders. Er versteht Sprache auf dem Niveau moderner KI-Modelle, formuliert aber keine freien Antworten. Sie übergeben drei Dinge: die Daten, eine Frage und die erlaubten Antworten. Zurück kommt eine Entscheidung samt Wahrscheinlichkeit, ohne dass vorher ein eigenes Modell trainiert werden muss.

Ein Beispiel aus dem Kundenpostfach: Eine E-Mail mit dem Betreff „Rechnung 2026-0418 doppelt abgebucht“ geht ein. Der Kunde schreibt, dass der Betrag für September zweimal belastet wurde, und bittet um Korrektur. Die Frage an das Modell lautet: Wer muss informiert werden? Zur Auswahl stehen Vertrieb, Support, Buchhaltung und Geschäftsführung. Das Ergebnis könnte so aussehen: Buchhaltung 91 %, Support 6 %, Vertrieb 2 %, Geschäftsführung 1 %.

Entscheidend ist die Form der Antwort. Es entsteht kein Fließtext, den eine Software erst auswerten muss, sondern ein eindeutiges Ergebnis mit einem Sicherheitswert. Liegt dieser Wert unter einer festgelegten Schwelle, geht der Vorgang an einen Menschen. Genau diese Eigenschaft macht Classifier so gut in bestehende Abläufe integrierbar, etwa in eine automatisierte Ticket-Erstellung.

Welche Angebote es derzeit gibt

Für Unternehmen sind aktuell drei Optionen relevant:

  • Jev (TypeSafe AI): Der Vorreiter dieser Modellklasse. Sehr schnell, sehr günstig und als Cloud-Dienst nutzbar.
  • Decisions API (OpenAI): Die Antwort von OpenAI. Sie kann zusätzlich Bilder bewerten, ist dafür aber etwas teurer.
  • Laya und weitere Open-Source-Modelle: Sie lassen sich auf eigener Infrastruktur betreiben, die Daten verlassen das Unternehmen also nicht.

Warum sich der Blick darauf lohnt

Ehrlich betrachtet: Technisch konnten moderne Sprachmodelle solche Aufgaben bereits lösen. Man gab ihnen ein Antwortformat vor, prüfte das Ergebnis und fragte notfalls erneut, bis eine Software es zuverlässig einlesen konnte. Der Unterschied liegt nicht im Können, sondern in zwei wirtschaftlichen Größen: Geschwindigkeit und Preis.

Geschwindigkeit. Die typische Antwortzeit von Jev liegt in der Praxis bei rund 76 Millisekunden statt mehrerer Sekunden. Entwickler haben damit bereits Computerspiele in Echtzeit gesteuert, mit bis zu zehn Entscheidungen pro Sekunde. Für Unternehmen bedeutet das: Eine Bewertung, auf die Mitarbeitende bisher 30 Sekunden oder länger gewartet haben, steht direkt in der Eingabemaske bereit.

Preis. KI wird seit Jahren schrittweise günstiger, doch hier sinken die Kosten für diese Art von Aufgabe auf einen Bruchteil. Je Entscheidung ist ein generalisierter Classifier 30- bis 100-mal günstiger als führende Sprachmodelle. Jev berechnet rund 4 US-Cent pro Million verarbeiteter Tokens; 100.000 kurze E-Mails zu bewerten kostet damit wenige Euro. Zwei Nullen weniger im Preis heißen: Aufgaben dürfen um zwei Größenordnungen größer werden und bleiben trotzdem wirtschaftlich.

Wie schnell das Thema in der Praxis angekommen ist, zeigt eine Zahl: Bei Vercel nutzten 13 % der zahlenden Teams Jev bereits innerhalb von 24 Stunden nach dem Start (Quellen: InfoQ, DeepLearning.AI The Batch, Herstellerangaben TypeSafe AI; Stand Oktober 2026).

Die Arbeitsteilung ist klar: Große Sprachmodelle liefern freien Text und sind stark beim Verfassen, Zusammenfassen und in Dialogen. Generalisierte Classifier liefern eine feste Antwortoption mit Wahrscheinlichkeit und sind stark beim Bewerten, Sortieren, Zuordnen und Prüfen von Relevanz.

Wo die größten Chancen liegen

Voraussetzung für den Einsatz ist, dass sich die Aufgabe als Entscheidung zwischen festen Optionen formulieren lässt. Ist das der Fall, sehen wir vier besonders lohnende Felder:

  1. Datenqualität im großen Stil: Große Bestände alter, unstrukturierter Daten lassen sich erstmals bezahlbar aufbereiten. Welche Themen stecken in einem Archiv, welcher Datensatz ist für wen relevant? Das ist besonders interessant, wenn ohnehin eine Datenmigration zwischen Systemen ansteht.
  2. Präzisere Suche und Recherche: Viele KI-Lösungen sind im Kern Suchen, etwa nach Produktdaten, Rechtsnormen oder Dokumentation. Der Classifier prüft die besten Treffer einer Vektorsuche erneut und filtert Unpassendes heraus, bevor es beim Nutzer ankommt.
  3. Eingänge sofort richtig zuordnen: Jede E-Mail im Support- oder Kundenpostfach wird beim Eingang bewertet: Wen betrifft sie, wie dringend ist sie? Bisher hatten nur große E-Mail-Anbieter eigens trainierte Modelle dafür. Diese Fähigkeit steht jetzt jedem Unternehmen zur Verfügung.
  4. Prozesse rückwirkend prüfen: Der niedrige Preis macht Auswertungen möglich, die sich früher nicht gerechnet hätten. Ein Beispiel: 100.000 E-Mails des vergangenen Jahres analysieren, um zu sehen, wie gut interne Abläufe tatsächlich funktioniert haben.

Ein Beispiel aus der Praxis

Für einen Kunden betreiben wir einen Schnittstellendienst, der Stellenanzeigen aus vielen Quellen zusammenführt und auf Relevanz bewertet. Durch den Einsatz eines Classifiers sank die Laufzeit pro Suche von 75 auf unter 10 Minuten, die Kosten auf ein Viertel des ursprünglichen Werts. Einen Teil des Preisvorteils haben wir reinvestiert: Heute durchsucht der Dienst deutlich mehr Daten als zu Beginn und ist trotzdem schneller und günstiger.

Wo die Grenzen liegen

  • Datenschutz: Die führenden Anbieter sitzen in den USA. Für sensible Daten europäischer Unternehmen ist eine selbst betriebene Open-Source-Variante in der Regel der richtige Weg. Mehr dazu unter KI-Datenschutz.
  • Zuverlässigkeit: Auch diese Modelle liefern keine 100 %. Sie entscheiden, ohne nachzudenken, und korrigieren sich nicht selbst. Das Nachdenken gehört deshalb in den Entwurf und die Abnahme: sinnvolle Antwortoptionen, Schwellenwerte und ein Testdatensatz, an dem die Qualität messbar wird.
  • Einsatzbereich: Classifier entscheiden, sie schreiben nicht. Für Chatbots und Zusammenfassungen bleiben Sprachmodelle das Werkzeug. Am stärksten ist die Kombination aus beidem.

Wie Sie sinnvoll einsteigen

Der beste Einstieg ist ein konkreter Prozess, in dem heute viele gleichartige Entscheidungen von Hand getroffen werden: das Sortieren von Eingängen, das Prüfen von Datensätzen, das Filtern von Suchergebnissen. Formulieren Sie die Frage und die möglichen Antworten, nehmen Sie eine Stichprobe echter Fälle und vergleichen Sie die Entscheidungen des Modells mit denen Ihrer Mitarbeitenden. Ein solcher Proof of Concept ist in wenigen Tagen umsetzbar und zeigt schnell, ob sich der Einsatz im Alltag trägt.

Passend dazu: Textanalyse und Klassifikation, Anwendungsfall-Analyse, Echtzeitinferenz und Batchinferenz