# Kundenmails mit lokaler KI sortieren: ein 8B-Modell im Firmenbetrieb

- URL: https://ai-on-mac.com/artikel/kundenmails-lokale-ki-jira/
- Sprache: Deutsch (Deutschland/EU)
- Veröffentlicht: 2026-11-22
- Kategorie: Lokale Modelle
- Englische Version: https://ai-on-mac.com/articles/customer-emails-local-ai-jira/
- Herausgeber: Julian Dominic Altmann, AI on Mac / KI auf dem Mac (https://ai-on-mac.com)

> Wie Antoti Kundenmails auf dem eigenen Rechner mit Ministral 3 8B einordnet: Prüfungen vor dem Modell, Laden bei Bedarf, Schutz vor Prompt-Injection.

**Kurzfazit:** Ein 8B-Modell reicht für die Frage „Ist das eine Anfrage?“, wenn es nicht allein entscheidet. Die Prüfungen davor und danach machen den Betrieb sicher, nicht das Modell.

Ich baue Antoti, eine Software, die Kundenmails in Jira-Tickets verwandelt. Sie läuft auf einem Rechner der Firma, und die KI läuft mit. Kein Nachrichtentext geht an einen Cloud-Dienst. Dieser Artikel zeigt, was das lokale Modell dabei tut, was es nicht tut und welche Prüfungen drumherum nötig sind. Er ist auch für alle nützlich, die ein lokales Modell in einen echten Ablauf einbauen wollen.

**Offenlegung:** Antoti ist mein eigenes Produkt. Es kostet 49 € im Monat je Firma.

## Warum lokal

Viele Firmen dürfen Kundenmails nicht an ChatGPT oder andere KI-Dienste geben. Datenschutzbeauftragte, Betriebsräte oder die eigenen Kunden verbieten es. Ein Modell auf dem eigenen Rechner löst das Problem an der Wurzel: Die Mails liegen ohnehin beim Mail-Anbieter, die Tickets in Jira, und es kommt kein weiterer Dienst dazu, der sie im Klartext sieht.

Der Preis dafür: Das Modell ist klein. Antoti nutzt [Ministral 3 8B](https://huggingface.co/mistralai/Ministral-3-8B-Instruct-2512-GGUF) von Mistral AI, Apache-2.0, quantisiert als Q4_K_M. Die Datei ist rund 5,2 GB groß und läuft über [llama.cpp](https://github.com/ggml-org/llama.cpp) auf Mac, Windows und Linux. Ein solches Modell ist kein GPT-5. Also muss der Ablauf so gebaut sein, dass es keins sein muss.

## Was vor dem Modell passiert

Die wichtigste Regel: **Was ein Regelwerk sicher entscheiden kann, sieht das Modell nie.**

1. **Absender prüfen.** Antoti prüft die [DKIM-Signatur](https://datatracker.ietf.org/doc/html/rfc6376) jeder Mail. Ohne gültige Signatur entsteht nie automatisch ein Ticket, egal was das Modell meint.
2. **Rauschen aussortieren.** Newsletter und automatische Mails erkennt man an festen Merkmalen wie `List-Unsubscribe`, `Precedence: bulk` oder `Auto-Submitted`. Solche Mails sortiert Antoti ohne Modell aus, solange der Absender kein eingetragener Kunde ist.
3. **Kunde zuordnen.** Zuerst über eingetragene Adressen, dann über die Domain des Kunden. Erst wenn beides nicht passt, darf das Modell aus der Liste der Jira-Projekte wählen, und das Ticket bekommt einen Hinweis.
4. **Anweisungen abfangen.** Steht in Absender, Betreff oder Text eine Anweisung an eine KI, hält Antoti die Mail an, bevor das Modell sie liest. Antoti sucht dabei auch in Lesarten, die ein Modell sehen kann, ein Mensch aber nicht: Text in unsichtbaren Tag-Zeichen, Breitformen von Buchstaben, Wörter mit unsichtbaren Trennern.

Erst danach fragt Antoti das Modell. Die Frage ist schmal: Ist das ein Anliegen, und wenn ja, worum geht es?

## Was das Modell nie darf

Das Modell kann nichts ausführen. Es hat keine Werkzeuge, keinen Zugang zu Jira und kein Postfach. Es liefert eine Einordnung als JSON, und der Code entscheidet, was daraus folgt. Eine Mail mit Prompt-Injection, die der Filter übersieht, kann das Modell also höchstens zu einer falschen Einordnung bringen. Die landet in der Konsole, wo ein Mensch sie sieht.

Ist das Modell unsicher oder scheitert es, rät Antoti nicht. Die Mail wartet unter „Zu entscheiden“, bis ein Mensch entscheidet. Aussortierte Mails bleiben mit Grund sichtbar, und ein Klick macht sie zum Ticket.

## Speicher: Laden nur bei Bedarf

Ein Rechner, der nebenbei Büroarbeit macht, soll nicht dauerhaft 5 GB für ein Modell reservieren. Antoti startet llama.cpp erst, wenn Mails zu prüfen sind, und beendet es wieder, wenn eine Weile keine Anfrage kam. Das kostet ein paar Sekunden beim ersten Aufruf, spart aber den Speicher den ganzen Tag über.

Dabei fasst Antoti nur Prozesse an, die es selbst gestartet hat. Läuft auf dem Rechner schon ein anderes Modell, etwa in LM Studio oder Ollama, bleibt es unberührt.

Empfohlen sind 16 GB Arbeitsspeicher. Auf einem Mac mit Apple-Chip rechnet llama.cpp auf der GPU. Wie viel Speicher welches Modell braucht, steht im Artikel [Wie viel RAM braucht ein lokales LLM auf dem Mac?](https://ai-on-mac.com/artikel/unified-memory-mac/).

## Wenn das Modell ausfällt

Ein lokales Modell fällt aus: zu wenig Speicher, ein Update, ein abgestürzter Prozess. Antoti verliert dabei keine Mail. Die Rohnachricht bleibt gespeichert, Antoti versucht es nach einer Pause erneut, und bis dahin wartet die Mail. Es gibt bewusst keinen Rückfall auf eine Cloud-KI, denn sonst wäre das Versprechen „lokal“ genau dann gebrochen, wenn es darauf ankommt.

## Was ich daraus gelernt habe

- **Das Modell ist das schwächste Glied, also bekommt es die kleinste Aufgabe.** Alles, was Regeln sicher können, machen Regeln.
- **Sicherheit kommt aus fehlenden Rechten, nicht aus dem Prompt.** Ein Filter gegen Prompt-Injection hilft, aber er bleibt eine Heuristik. Dass das Modell nichts tun kann, ist die eigentliche Grenze.
- **Unsicherheit ist ein gültiges Ergebnis.** Ein Modell, das „weiß nicht“ sagen darf, ist im Betrieb mehr wert als eines, das immer eine Antwort hat.

Antoti gibt es für Windows, macOS (Apple-Chip) und Linux, 30 Tage kostenlos: [Antoti ansehen](https://altmann-digital-studio.de/antoti/). Warum Jira Cloud Mails von Kunden ohne Lizenz gar nicht annimmt und welche Wege es gibt, steht unter [E-Mails von Kunden als Jira-Tickets](https://altmann-digital-studio.de/antoti/jira-e-mail-ohne-service-management/).

## FAQ

**Reicht ein 8B-Modell, um Kundenmails zu sortieren?**

Für die Frage, ob eine Mail ein Anliegen ist, ja, solange Regeln vorher das Eindeutige aussortieren und ein Mensch unklare Fälle entscheidet. Antoti nutzt Ministral 3 8B in Q4_K_M, die Datei ist rund 5,2 GB groß.

**Wie viel Arbeitsspeicher braucht das?**

Antoti empfiehlt 16 GB Arbeitsspeicher und rund 6 GB freien Platz für das Modell. Das Modell lädt nur, wenn Mails zu prüfen sind, und entlädt sich danach wieder.

**Wie schützt man ein lokales Modell vor Prompt-Injection in Mails?**

Antoti sucht vor dem Modell nach Anweisungen an eine KI, auch in versteckten Zeichen, und hält solche Mails an. Wichtiger ist, dass das Modell nichts ausführen kann: Es liefert nur eine Einordnung, die der Code prüft.

## Quellen

1. https://huggingface.co/mistralai/Ministral-3-8B-Instruct-2512-GGUF
2. https://github.com/ggml-org/llama.cpp
3. https://datatracker.ietf.org/doc/html/rfc6376
4. https://altmann-digital-studio.de/antoti/
