← Alle Beiträge

Ein Ensemble, das sich selbst erklärt

Schnelle lokale Klassifikation, der du vertrauen kannst, plus ein LLM, das jede Entscheidung mit Zitaten begründet — ohne es das Urteil anfassen zu lassen.

  • Machine Learning
  • Embeddings
  • LLM

Ein Klassifikator, der richtig liegt, aber stumm ist, lässt sich schwer verkaufen. Prüfer wollen nicht nur das Label — sie wollen wissen, warum. Der Trick: ein schnelles Modell, das entscheidet, mit einem gesprächigen koppeln, das erklärt — und diese beiden Aufgaben strikt getrennt halten.

Günstig, lokal und gut genug

Für enge Textklassifikation ist TF-IDF plus Embeddings in einen Kopf aus logistischer Regression schnell, läuft vollständig auf eigener Hardware und ist — trainiert auf Zehntausenden gelabelten Beispielen — wirklich präzise. Kein API-Aufruf pro Vorhersage, keine Daten, die das Gerät verlassen, keine Latenz-Überraschungen.

Lass das LLM reden, nicht entscheiden

Der verlockende, riskante Zug ist, ein LLM die Klassifikation machen zu lassen. Der sichere Zug: Das Ensemble entscheidet, und das LLM schreibt eine Begründung, die in der Eingabe verankert ist — und zitiert die genauen Formulierungen, die das Label ausgelöst haben. Da die Erklärung nach der Entscheidung erzeugt wird, kann sie das Urteil nie heimlich ändern.

Miss, bevor du glaubst

Jede Modellierungsentscheidung — wie viele Daten, welcher Embedding-Kopf, Ensemble gegen Einzelmodell — hat sich ihren Platz verdient, indem sie eine Zahl auf einem Holdout-Set bewegt hat. „Fühlt sich besser an“ ist kein Ergebnis. Recall bei fester Precision schon.

Schreib die Sackgassen auf

Die Experimente, die nicht funktioniert haben, sind dokumentationswürdig. Die nächste Person — meist das zukünftige Ich — spart Wochen, wenn sie erfährt, dass das schicke Finetuning schlechter abschnitt als der langweilige lineare Kopf.

Lass das günstige Modell entscheiden und das teure erklären. Vertrauen lebt in der Naht zwischen beiden.