Bambera
RAG-Assistentin, die in unter 4 Sekunden antwortet, als Prototyp bei Lumis Kaffeebar getestet
Kontext
Vor Bambera bedeutete jede Unklarheit wĂ€hrend des Service (EnthĂ€lt dieser Kuchen NĂŒsse? Wie macht man einen Hugo?), anzuhalten, zum gedruckten Handbuch zu greifen, das Inhaltsverzeichnis zu durchsuchen, die richtige Seite zu finden, wĂ€hrend der Gast vor der Theke wartete und die Schlange dahinter wuchs. Bambera ersetzt dieses Buch: Es antwortet in unter 4 Sekunden, in der Sprache der Frage (Deutsch, Englisch, Französisch oder Spanisch), mit null Halluzinationen bei sicherheitskritischen Themen wie Allergenen. Am meisten genutzt wurde es vom neuen Personal, fĂŒr das Bambera wie ein sofortiges Onboarding funktionierte: Statt ein ganzes Handbuch auswendig lernen zu mĂŒssen, bevor man mit Sicherheit bedienen kann, fragt man einfach und bekommt die richtige Antwort sofort. Wir haben es drei Monate lang als Prototyp mit dem eigenen Team in der Lumis Kaffeebar (Bern) getestet.
Rundgang durch die Anwendung
Login
Der Zugang ist mit Benutzername und Passwort geschĂŒtzt, da Bambera interne Betriebsdaten von Lumis Kaffeebar verarbeitet.
Startbildschirm
Der Startbildschirm zeigt vorgeschlagene Fragen basierend auf den hĂ€ufigsten Anfragen (Aufgaben der FrĂŒhschicht, ein konkretes Rezept, Zutaten eines Produkts), damit das neue Personal beim ersten Mal nicht ĂŒberlegen muss, was es ĂŒberhaupt fragen soll.
Frage
Eine typische Frage aus dem Alltag: ob ein Produkt ein bestimmtes Allergen enthÀlt. Genau das ist die Art von Frage, bei der eine falsche Antwort echte Konsequenzen hat, nicht nur kosmetische.
Antwort
Bambera antwortet in unter 4 Sekunden.
Im Einsatz
Und so sah es in der Praxis aus: ein Tablet an der Theke, direkt neben der Kaffeemaschine, mitten im Service befragt.
Architektur
Die Anfrage des Personals kommt vom Tablet bei API Gateway an, das das JWT validiert, bevor es die Lambda aufruft. Die Lambda prĂŒft zuerst einen In-Memory-Cache (TTL 5 Minuten); gibt es dort keinen Treffer, fragt sie die JSON-Dateien in S3 ab. Das Kernwissen (Rezepte, Zutaten und Allergene) wird immer in den Kontext aufgenommen; die operativen Abschnitte (Checklisten, Serviceregeln, NotfĂ€lle) werden nur hinzugefĂŒgt, wenn das Vokabular der Frage sie aktiviert, die Weiche, die die in der Technischen Herausforderung beschriebenen Routing-Bugs gelöst hat. Die Lambda ruft mit diesem Kontext Bedrock (Claude Haiku 4.5) auf, gibt die Antwort ans Personal zurĂŒck und protokolliert die Interaktion asynchron zurĂŒck in S3, ohne die Antwort an den Nutzer zu blockieren.
Stack
| Ebene | Technologie |
|---|---|
| Rechenleistung | AWS Lambda (Node.js 24, ESM) |
| Modell | Claude Haiku 4.5 ĂŒber Amazon Bedrock (eu-central-1) |
| Wissensbasis | Amazon S3, 7 strukturierte JSON-Dateien |
| Authentifizierung | JWT, verwaltet von API Gateway |
Was ich gemacht habe
- Die komplette Pipeline von der API bis zum Prompt Engineering mit Claude Haiku 4.5 auf Bedrock entworfen und gebaut.
- Die Wissensbasis in 7 strukturierten JSON-Dateien aufgebaut, mit expliziten Feldern fĂŒr ErnĂ€hrungseigenschaften wie vegan, glutenfrei und laktosefrei. Fragen zu diesen Eigenschaften werden vor dem Prompt zusĂ€tzlich datenbasiert gefiltert.
- Einen System Prompt mit XML-Blöcken entwickelt und eine Testbatterie mit 100 Prompts aufgebaut, um Ănderungen an Antworten objektiv zu messen.
Technische Herausforderung
Die erste Version nutzte ein Keyword-basiertes Routing-System, um zu entscheiden, welche Abschnitte der Wissensbasis je nach Frage an das Modell geschickt werden. Auf dem Papier klang das vernĂŒnftig, aber im praktischen Einsatz erzeugte es eine Kaskade subtiler, schwer vorhersehbarer Bugs, von der Art, bei der ein kurzes Wort in einer Sprache mit einem Wortteil in einer anderen Sprache kollidiert.
Die Lösung war nicht, fĂŒr jeden Fall mehr Logik draufzupacken, sondern die Architektur zu vereinfachen: Das Kernwissen wird immer mitgeschickt, nur die selteneren operativen Abschnitte werden bedingt hinzugefĂŒgt. Das bestĂ€tigte etwas, das ich schon vermutet hatte: In einem RAG-System zĂ€hlt die QualitĂ€t des Kontexts mehr als seine Grösse.
Ergebnis & Learnings
Ein Prototyp, drei Monate lang mit dem Team von Lumis getestet, mit soliden Ergebnissen: Er antwortet in unter 4 Sekunden, in vier Sprachen, mit einer messbaren und dank der Testbatterie aus 100 Prompts verbesserten Genauigkeit. Und der Beweis dafĂŒr, dass bei einem KI-Assistenten in einem echten Kontext, in dem eine falsche Antwort Konsequenzen haben kann (Lebensmittelsicherheit), der wichtigste Teil der Ingenieurarbeit nicht das Modell selbst ist, sondern der Prozess, der es vertrauenswĂŒrdig macht.