Wie lokale Sprachmodelle den E-Commerce effizienter machen – ohne dass Daten die Firma verlassen

Wenn heute jemand „KI" sagt, denken die meisten zuerst an ChatGPT, gelegentlich an Claude, Gemini oder Grok. Also an große Chat-Oberflächen im Browser, hinter denen Rechenzentren in den USA stehen. Das sind aktuell die populärsten Zugänge, über die Menschen mit KI in Berührung kommen – leistungsstark und im Alltag durchaus praktisch. Aber eben nicht die einzige Form, in der KI heute verfügbar ist. Besonders im E-Commerce, wo es um Produktdaten, Lieferantenkonditionen und Kundenhistorien geht, ist die spannendere Variante oft eine andere: Sprachmodelle, die auf der eigenen Infrastruktur laufen und nie mit der Cloud eines US-Anbieters sprechen.

In diesem Beitrag möchten wir zeigen, wo wir diese Technologie aktuell bei unseren Kunden produktiv einsetzen.

Kurz einsortiert: Cloud-LLMs, lokale LLMs, und warum der Unterschied zählt

Ein Large Language Model, kurz LLM, ist im Kern ein statistisches Modell, das Sprache erzeugt und versteht. Die bekannten Vertreter – ChatGPT von OpenAI, Claude von Anthropic, Gemini von Google, Grok von xAI – sind ausgesprochen leistungsfähig, werden aber ausschließlich als Cloud-Dienst betrieben. Wer sie nutzt, schickt seine Anfrage und oft auch seine Daten zu einem Rechenzentrum, meist in den USA. Für die Recherche zu einem Blogartikel ist das kein Problem. Für die Analyse Ihrer Einkaufskonditionen, Ihrer Kundenhistorie oder Ihrer Lieferantenverträge kann es eines sein – spätestens, wenn Datenschutzbeauftragter und Geschäftsführung denselben Kaffeekreis teilen.

Parallel dazu gibt es eine zweite Liga, die in den letzten zwei Jahren enorm aufgeholt hat: lokale LLMs. Das sind frei verfügbare Modelle wie Llama (Meta), Mistral, Gemma (Google), Qwen (Alibaba) oder die DeepSeek-Reihe, die auf einem eigenen Server betrieben werden können – auf einer Workstation unter dem Schreibtisch, einem Server im deutschen Rechenzentrum oder einem gemieteten Cluster bei einem europäischen Hoster. Das entscheidende Wort ist „eigene Infrastruktur": Die Daten, die Sie hineingeben, bleiben physisch bei Ihnen.

Natürlich haben diese Modelle Grenzen. Ein lokal auf vernünftiger Hardware laufendes 30-Milliarden-Parameter-Modell ist nicht der Allwissende wie GPT-5 oder Claude Opus. Es wird Ihnen keine Doktorarbeit in theoretischer Physik schreiben, und bei sehr komplexen, mehrstufigen Denkaufgaben merkt man den Unterschied. Aber – und das ist der Punkt – für die allermeisten konkreten Aufgaben im E-Commerce-Alltag reichen sie völlig aus. Ein gut ausgewähltes lokales Modell schreibt sauberen Produkttext, klassifiziert Tickets zuverlässig, übersetzt präzise und liefert strukturierte Daten in der Qualität, die Sie brauchen. Wer die richtige Aufgabe dem richtigen Modell zuweist, bekommt keine Kompromisslösung, sondern einfach eine, die zum Umfang passt.

Datenhoheit ist kein Luxus, sondern Geschäftsgrundlage

Für europäische – und gerade deutsche – Unternehmen kommt noch ein Argument dazu, das sich mit keinem noch so cleveren Modell aus den USA wegdiskutieren lässt: die DSGVO. Sobald personenbezogene Daten, Geschäftsgeheimnisse oder Lieferantenpreise einen Server auf amerikanischem Boden berühren, wird die rechtliche Lage unübersichtlich. Lokale LLMs räumen dieses Problem einfach ab, bevor es entsteht. Nichts geht raus, nichts wird mittrainiert, nichts landet in einem Rechenzentrum, dessen Betreiber dem CLOUD Act unterliegt.

Das ist kein technikfeindliches Misstrauen, sondern gute kaufmännische Vorsicht – besonders bei Händlern, die mit personenbezogenen Kundendaten, sensiblen Einkaufspreisen, individuellen Konditionen oder Verbandsdaten arbeiten.

Wo lokale LLMs heute schon produktiv eingesetzt werden

In vielen Shops unserer Kunden arbeiten diese Modelle längst im Hintergrund – an mehreren Stellen gleichzeitig.

Im Produktkatalog erledigen sie die Fleißarbeit, für die kein menschliches Redaktionsteam jemals die Kapazität hätte. Automatisierte Alt-Texte für Produktbilder – barrierefrei, semantisch sauber, SEO-wirksam – entstehen auf Knopfdruck für zehntausende Artikel. Marketingtaugliche Artikelbeschreibungen werden nach klaren Regeln und Tonalitätsvorgaben aus den Rohdaten der Warenwirtschaft erzeugt. Dasselbe gilt für Kategorie-, Marken- und Ratgebertexte, die konsistent zur Markenwelt des Händlers passen. Strukturierte Daten werden so optimiert, dass sie in der klassischen Google-Suche ebenso gut funktionieren wie in den AI Overviews von Google oder den Antworten von Perplexity und ChatGPT – denn Sichtbarkeit findet heute auf mehreren Bühnen gleichzeitig statt.

Ein unterschätzter Dauerbrenner ist die automatische Produktkategorisierung und Attributvergabe anhand von Herstellerangaben. Wer einmal erlebt hat, wie mühsam es ist, zehntausend Sofas manuell nach Sitztiefe, Bezugsstoff, Wendbarkeit, Härtegrad und Lieferform zu strukturieren, versteht sofort, warum ein lokales LLM hier Gold wert ist. Es liest die Lieferanten-Dokumentation, füllt die Attributfelder und hält sie konsistent – Tag für Tag.

Die Stimmen der Kundschaft bekommen ebenfalls eine neue Verwendung: Eine Sentiment-Analyse über alle Kundenbewertungen hinweg zeigt auf einen Blick, welches Modell wiederholt für Begeisterung sorgt, welches für Reklamationen, und welche Produkteigenschaft die Kundinnen und Kunden tatsächlich bewegt. Der Einkauf liest so nicht einzelne Rezensionen, sondern Muster – und kann entsprechend reagieren.

Automatisierte Übersetzungen klingen nach einer gelösten Aufgabe, sind aber im E-Commerce ein Spezialfall: Produkttexte mit Fachbegriffen, Markenclaims und rechtlich relevanten Formulierungen brauchen mehr als ein stures Wort-für-Wort-Tool. Lokale LLMs liefern hier Übersetzungen, die Markenstimme und Fachsprache erhalten – und das für ganze Sortimente auf einmal.

Und weil in jedem wachsenden Shop irgendwann die FAQ-Seite ausfranst: Aus Lieferanteninformationen und realen Kundendialogen lassen sich FAQ- und Ratgebertexte generieren, die tatsächlich die Fragen beantworten, die Käufer stellen – und nicht die, von denen das Marketing glaubt, dass sie jemand stellt.

Kundenservice: KI als Kollege, nicht als Ersatz

Noch deutlicher wird der Nutzen dort, wo es um Dialog geht. Ein RAG-Chatbot (Retrieval-Augmented Generation) für das interne Intranet bringt das gesammelte Wissen eines Unternehmens – Produktdokumentation, Handbücher, Verbandsunterlagen – in dialogfähige Form. Dasselbe Prinzip funktioniert als Support-Chatbot im Shop, der Kundenfragen zum Produktsortiment und zu Bedienungsfragen beantwortet, ohne dass ein Mensch nachts um elf noch dafür bereitstehen muss. Eine semantische Suche über interne Dokumentenarchive ergänzt das: Wer nicht die exakten Stichwörter kennt, findet heute trotzdem die richtige Unterlage – weil das System die Bedeutung versteht, nicht nur den Wortlaut.

Für die Service-Kolleginnen und -Kollegen selbst haben wir besonders gute Erfahrungen mit automatisierten Antwortvorschlägen gemacht – und zwar strikt nach dem Prinzip Human in the Loop: Das Modell formuliert den Entwurf, der Mensch prüft, korrigiert, sendet. So wird aus mühsamer Tipperei redaktionelle Qualität in einem Bruchteil der Zeit. Ergänzend sortieren lokale LLMs eingehende Support-Tickets nach Kategorie, Dringlichkeit und Zuständigkeit – die Klassifikation und das Routing übernimmt die KI, das Lösen des Problems bleibt, wo es hingehört: beim Menschen.

Agentisch, aber bodenständig: Mehrstufige Workflows

Besonders interessant wird es, wenn man mehrere dieser Fähigkeiten zu einem Workflow verkettet. Ein Beispiel aus unserer Praxis: Aus den Rohdaten der Warenwirtschaft – Artikelnummer, technische Spezifikation, Lieferanteninformationen – erzeugt ein spezialisiertes Modell einen ersten Artikeltext. Ein zweites Modell schärft diesen Text marketingtauglich nach, extrahiert die zentralen Produktmerkmale als Bullet Points und sorgt für die passende Tonalität. Ein drittes Modell übernimmt die Übersetzung in drei Fremdsprachen. Jede Stufe ist auf ihre Aufgabe spezialisiert, jede kann für sich geprüft und optimiert werden – und am Ende liegt für jedes neue Produkt ein vollständiges, konsistentes, mehrsprachiges Textpaket vor. Agentisch, in dem Sinne, dass mehrere LLMs Hand in Hand arbeiten. Aber transparent und kontrolliert, nicht als Black Box.

Interesse geweckt?

Wenn Sie überlegen, welche Bereiche Ihres E-Commerce-Auftritts sich für den Einsatz lokaler Sprachmodelle eignen – und wo der Hebel am schnellsten wirkt: Sprechen Sie uns an. Wir zeigen Ihnen gern anhand konkreter Beispiele aus bestehenden Projekten, wie das in Ihrem Shop aussehen könnte.

Kontaktieren Sie uns!