Ein KI-natives Delivery-Modell, bewährt in Produktion
snappyloop ist ein KI-Sprachlernprodukt — Kurse, Sprechpraxis mit einem Tutor in Echtzeit und Vokabeln nach dem Spaced-Repetition-Prinzip, ausgeliefert über Telegram, seine Mini App und das Web. Ein Engineer hat es mit einem KI-nativen Delivery-Modell gebaut und betrieben.
In diesem Modell übernahmen spezialisierte Agenten klar abgegrenzte Arbeit — eine Service-Änderung, eine Migration, eine Test-Suite — über GitHub Issues, die jede Aufgabe, ihren Kontext und die Spur der Entscheidungen zwischen den Sitzungen festhielten. Produktentscheidungen, Architektur, Prioritäten, Risiko, Review und Abnahme blieben in menschlicher Hand: Agenten schlugen vor und setzten um, und nichts wurde ohne Review gegen die Architektur abgenommen.
Das Modell trug mehr als ein Dutzend Services in Go und PHP — Kurse, Sprechpraxis, Karteikarten, Zahlungen, Benachrichtigungen — auf PostgreSQL, Redis und Kubernetes. Als das Produkt in drei Monaten von 200 auf 5.000 Nutzer wuchs, wanderte die Architektur von einem einzelnen Long-Polling-Worker zu webhook-getriebenen, horizontal skalierten Bot-Workern, mit Redis für gemeinsamen Session-State und globale Rate Limits und einer zentralen Obergrenze für die KI-Anbieter über alle Replicas. Die Plattform wurde mit 20.000 Anfragen pro Sekunde lastgetestet.
Die Sicherheit auf dem Webhook-Pfad war vierschichtig — Firewall, Ingress, IP-Allowlist und Prüfung der Request-Signatur —, die interne API war nur über einen ausgehenden Cloudflare Tunnel erreichbar. SLO-Burn-Rate-Alarme und Playwright-Proben aus mehreren Städten überwachten den Betrieb. Aus dem LLM-Proxy dahinter wurde Keystone, ein Open-Source-Gateway.
