Denis Kleptsov
On-Device-LLM-Apps, RAG- und Sprachanalyse-Plattformen in Produktion und die Full-Stack-Produkte, die sie umgeben.
Ich bin KI/ML-Ingenieur und mache aus forschungsnahen Modellen Produkte, die Menschen täglich nutzen — Offline-LLM-Apps für macOS, RAG- und Sprachanalyse-Systeme in Produktion und das Full-Stack-Web drumherum. Mir sind Latenz, Datenschutz und auslieferbare Ergebnisse wichtig.
Ausgeliefert und in Betrieb - einfach ausprobieren.
Übersetze Word, Excel & PowerPoint komplett offline — auf deinem Mac.
Eine macOS-App, die Office-Dokumente mit einem 1,8-Mrd.-Parameter-LLM lokal auf Apple Silicon übersetzt. Jede Schriftart, Tabelle und Grafik bleibt erhalten, und nichts verlässt jemals dein Gerät.
Eine selbstgehostete Calendly-Alternative, die nie doppelt bucht.
Eine Terminplanungs-App mit zeitzonengenauer Verfügbarkeit und Doppelbuchungs-Schutz auf Datenbankebene. Ja — genau die, die diese Seite für den Button „Termin buchen“ verwendet.
Verwandle Markdown mit einem einzigen Einfügen in ein schön formatiertes Word-Dokument.
Ein Web-Tool, das Markdown in saubere, gestaltete .docx-Dateien umwandelt — Überschriften, Tabellen, Codeblöcke und Themes inklusive — ganz ohne Anmeldung.
Agenten, RAG und NLP-Experimente auf GitHub.
Ein RAG-Agent für die Produktion, durchgängig getraced und evaluiert.
Ein retrieval-augmentierter Assistent auf Basis von LangGraph, mit vollständigem Tracing und Evaluation über LangSmith und einer FastAPI-+-React-Oberfläche.
Ein Agent, der Python schreibt, ausführt und seine eigenen Fehler behebt.
Ein autonomer Coding-Agent, der Python erzeugt, ausführt, eigene Laufzeitfehler abfängt und sich in einer Schleife selbst korrigiert, bis die Aufgabe besteht.
Ein sauberes, leicht anpassbares agentisches RAG-Frage-Antwort-System.
Ein minimales LangChain-Beispiel für agentisches retrieval-augmentiertes Frage-Antworten — ein guter Ausgangspunkt zum Lernen oder Forken.
KI- und ML-Systeme in Produktion für Unternehmenskunden.
Retrieval-Plattformen konzipiert und ausgeliefert — die Wissensgraphen mit Embedding-Suche kombinieren — die interne KI-Assistenten in einem Unternehmen antreiben, mit Evaluations-Pipelines, die die Antworten ehrlich halten.
Ein neuronales Modell zur Abwanderungsprognose für einen Mobilfunkanbieter mit über 50 Mio. Kunden gebaut und das Team bis zur Produktion geführt. Das Risk-Scoring sollte die Abwanderung um 5% senken.
Eine sichere, selbstgehostete Sandbox für Code-Ausführung aufgebaut, damit KI-Assistenten generierten Code gefahrlos ausführen können — eine hauseigene Alternative zu gehosteten Sandboxes, mit Isolation und Ressourcenlimits.
Einen Ensemble-Klassifikator (TF-IDF + Embeddings + logistische Regression) über mehr als 32.000 gelabelte Beispiele trainiert und ausgeliefert, wobei ein LLM für jede Vorhersage belegte Begründungen erzeugt — Experimente dokumentiert von der Datenmenge bis zur finalen Modellwahl.
Einen produktiven Sprachagenten für eine Anwaltskanzlei gebaut, für eingehende und ausgehende Anrufe: SIP/WebRTC-Aufnahmedialoge, die strukturierte Mandantendaten extrahieren, plus eine Outbound-Kampagnen-Engine mit Compliance-Fenstern und Retry-Logik. Rund 65% der Anrufe laufen Ende zu Ende ohne menschlichen Operator.
Eine Full-Stack-App gebaut, die PDF- und PPTX-Folien in interaktive KI-Vorlesungen verwandelt: GPT-Erzählung, lokale TTS-Vertonung, Sprach-Q&A in Echtzeit mit Whisper und automatisch generierte Quizze. Die Vorlesungsvorbereitung sank von rund zwei Tagen auf unter zehn Minuten.
Eine Pipeline gebaut, die eingehende RFQ-E-Mails mit PDF- und Excel-Anhängen per OCR liest, den Bestand prüft, Lieferantenangebote über API einholt und das Angebot erstellt. Bis zu 5x schneller als der manuelle Ablauf.
Das NLP-Modul für die Innovationsmanagement-Plattform einer nationalen Eisenbahn gebaut: Kategorisierung, unscharfe Suche und Analytik über mehr als 40.000 Innovationsvorschläge von Mitarbeitenden.
Eine interne Plattform gebaut, die Schulungsunterlagen in Multiple-Choice-Tests mit LLM-generierten Fragen und Erläuterungen verwandelt, sie automatisch nach Standorten und Rollen zuweist und die Bestehensquote in Echtzeit auswertet.
Nur Wirkung und Stack — Kundendetails unter NDA.
Womit ich arbeite, nach Ebene gruppiert.
RAG / GraphRAG · LangGraph agents · LangSmith eval · OpenAI · Embeddings · llama.cpp · Apple MLX · Guardrails
scikit-learn · Ensembles · Fine-tuning · Qdrant · TF-IDF · Classification
Python · FastAPI · SQLAlchemy · Node.js · PostgreSQL · Redis · arq
TypeScript · React · SvelteKit · Astro · Tailwind v4
Tauri · Rust · Electron · macOS / App Store
Docker · Traefik · GitLab CI/CD · Linux / VPS · Let's Encrypt
AWS Lambda · Lambda Web Adapter · Function URLs · CloudFront · ECR · ACM · IAM · CloudWatch · Graviton / arm64
Notizen über das Bauen mit LLMs, On-Device-ML und das Web.
Warum ein nicht quantisiertes 12B-Modell auf einer Gaming-GPU nicht lauft, wie QLoRA und 4-Bit-Quantisierung es moglich machen, und wie ein feinabgestimmtes Draft-Modell es 1.7x schneller macht - schnell genug fur einen Live-Anruf.
Wie md2docx von einem VPS-Container zu serverless auf AWS für ~0 $ wechselte — ohne eine Zeile App-Code zu ändern, samt der drei Stolperfallen, vor denen niemand warnt.
Ein Assistent, der E-Mails automatisch beantwortet, kann echten Schaden anrichten. Die langweilige Sicherheitsebene ist das, was ihn auslieferbar macht.
Ein KI-Produkt zu bauen oder ein kniffliges ML-Problem? Schreib mir oder buche einen Termin.