Open-Weight-KI wird für Marketingteams interessanter, weil Modelle nicht zwingend über ChatGPT, Claude oder Gemini laufen müssen. Wer die Modellgewichte selbst betreibt, kann wiederkehrende Aufgaben auf eigener Infrastruktur ausführen, Datenströme stärker kontrollieren und bei hohen Volumina Kosten senken.
Ein aktueller Praxis-Guide von Social Media Examiner stellt diesen Ansatz als Gegenmodell zu dauerhaft steigenden KI-Abos und API-Kosten vor. Die Grundidee ist sinnvoll – allerdings mit einer wichtigen Einschränkung: Open Weight bedeutet nicht automatisch kostenlos, privat oder besser. Entscheidend sind Workload, Hardware, Hosting und die eigene technische Betriebsfähigkeit.
Was „Open Weight“ eigentlich bedeutet
Bei einem Open-Weight-Modell sind die trainierten Modellgewichte verfügbar. Das Modell kann dadurch auf eigener Hardware, in einer privaten Cloud oder bei einem spezialisierten Hosting-Anbieter betrieben werden.
OpenAI bietet beispielsweise gpt-oss-20b und gpt-oss-120b unter einer Apache-2.0-Lizenz an. Laut OpenAI sind die Modelle nicht über die reguläre OpenAI API verfügbar, sondern für selbst kontrollierte Infrastruktur oder externe Hosting-Anbieter gedacht. Das kleinere Modell ist für Umgebungen mit rund 16 GB Speicher ausgelegt; die große Variante wurde so optimiert, dass sie auf einer einzelnen 80-GB-GPU laufen kann.
Wichtig ist die Begriffstrennung: Open Weight ist nicht automatisch dasselbe wie vollständig Open Source. Die Gewichte können offen sein, während Trainingsdaten, Trainingscode oder Teile der Tooling-Infrastruktur nicht veröffentlicht werden.
Für Marketingteams zählt am Ende weniger das Label als die Frage: Kann das Modell den gewünschten Prozess zuverlässig, wirtschaftlich und mit dem erforderlichen Datenschutz ausführen?
Wo lokale Modelle im Marketing sinnvoll werden
Der größte Hebel entsteht bei häufigen, klar begrenzten Aufgaben. Ein hochpreisiges Frontier-Modell ist nicht für jeden Verarbeitungsschritt notwendig.
Typische Beispiele sind:
- große Mengen Kundenfeedback oder Social-Kommentare clustern,
- wiederkehrende Zusammenfassungen und Reports erstellen,
- vorhandene Texte klassifizieren oder taggen,
- interne Wissensbestände durchsuchen,
- strukturierte Daten aus Dokumenten extrahieren,
- erste Varianten von Headlines, Metadaten oder Social Copy erzeugen,
- oder Agenten einfache, gut definierte Teilschritte ausführen lassen.
Ein möglicher Hybrid-Workflow wäre deshalb: Ein stärkeres kommerzielles Modell entwickelt Strategie, Prüfkriterien oder einen komplexen Plan. Die anschließende Massenverarbeitung übernimmt ein günstigeres Open-Weight-Modell.
Ein ähnliches Prinzip sehen wir bereits bei KI-Agenten im Media Buying: Sobald Agenten viele einzelne Aktionen ausführen, werden Modellwahl und Kostenkontrolle selbst zu einem Teil des Workflows.
Lokal heißt nicht automatisch kostenlos
Die Gewichte eines Modells können kostenlos verfügbar sein. Der Betrieb ist es nicht.
Kosten entstehen weiterhin durch Hardware, Strom, Speicher, GPU-Zeit, Hosting und Wartung. Hinzu kommt die Arbeitszeit für Updates, Monitoring und Fehlerbehebung.
Deshalb ist ein lokales Modell nicht automatisch günstiger als ein 20- oder 30-Euro-Abo. Für einen einzelnen Marketer, der einige Male am Tag Texte schreibt, ist ein fertiger Cloud-Dienst häufig wirtschaftlicher.
Anders sieht es bei hohen Volumina aus. Wenn ein Team täglich zehntausende Klassifizierungen, Zusammenfassungen oder Extraktionen ausführt, können sich lokale Modelle oder günstige Open-Weight-Inference-Anbieter rechnen. Dann werden die Kosten besser planbar und hängen weniger direkt an jedem einzelnen Token eines Frontier-Modells.
Die im Social-Media-Examiner-Beitrag genannten hohen Einsparpotenziale sind Praxisangaben einzelner Anwender und sollten deshalb nicht als allgemeine Kostenprognose verstanden werden.
Datenschutz ist ein stärkeres Argument als der reine Preis
Für viele Unternehmen ist die spannendere Eigenschaft nicht der Tokenpreis, sondern die Kontrolle darüber, wo Daten verarbeitet werden.
OpenAI erklärt für selbst gehostete gpt-oss-Modelle ausdrücklich, dass OpenAI die verarbeiteten Daten nicht erhält, solange sie nicht bewusst mit OpenAI geteilt oder über einen verwalteten Hosting-Partner verarbeitet werden. Ein vollständig lokal betriebenes Modell kann damit sensible Daten innerhalb der eigenen Infrastruktur halten.
Das ist beispielsweise für interne Kundenanalysen, unveröffentlichte Kampagnen, Vertriebsdaten oder proprietäre Wissensbestände relevant.
Trotzdem gilt: Lokal bedeutet nicht automatisch DSGVO-konform. Zugriffskontrollen, Logging, Löschkonzepte, Rechtsgrundlagen und der Umgang mit personenbezogenen Daten bleiben Aufgabe des Unternehmens. Wer statt eigener Hardware einen externen Inference-Anbieter nutzt, muss außerdem dessen Datenverarbeitung erneut prüfen.
Das gleiche Grundprinzip gilt bei eigenen KI-Schnittstellen: In unserem Guide zu ChatGPT, MCP, OAuth und eigenen Servern erklären wir, warum die eigentliche Sicherheitsgrenze im Backend und nicht im Sprachmodell liegen sollte.
Kleine Modelle können für klar definierte Jobs ausreichen
Der wichtigste Denkfehler bei KI-Beschaffung ist häufig, für jede Aufgabe das stärkste verfügbare Modell zu wählen.
Für komplexe Strategie, schwierige Recherche oder stark mehrdeutige Entscheidungen kann ein Frontier-Modell sinnvoll sein. Für Klassifikation, Extraktion oder standardisierte Transformationen ist dieser Leistungsunterschied jedoch oft weniger wichtig.
OpenAI positioniert gpt-oss-20b genau für solche ressourcenärmeren Umgebungen. Gleichzeitig können Open-Weight-Modelle über Frameworks wie Ollama, llama.cpp oder vLLM in bestehende Automationen eingebunden werden.
Damit entsteht für Unternehmen eine zusätzliche Optimierungsebene: Nicht nur welcher Prompt, sondern welches Modell bekommt welchen Arbeitsschritt?
Diese Frage wird wichtiger, wenn KI vom gelegentlichen Assistenten zum dauerhaften Produktionssystem wird. Unsere aktuelle Studie zur KI-Nutzung im Marketing zeigt bereits die Lücke zwischen breiter Nutzung und sauber gemessener Wirtschaftlichkeit.
Wann sich Open-Weight-KI eher nicht lohnt
Für viele kleine Teams bleibt ein Cloud-Modell die pragmatischere Wahl. Eigene Infrastruktur lohnt sich besonders dann nicht, wenn:
- das Nutzungsvolumen gering oder stark schwankend ist,
- immer die höchste Modellqualität benötigt wird,
- niemand Infrastruktur und Updates betreuen kann,
- oder der Workflow hauptsächlich aus einzelnen kreativen Gesprächen besteht.
Auch eine vermeintlich kostenlose lokale Lösung kann teuer werden, wenn Mitarbeiter regelmäßig technische Probleme lösen müssen oder Modelle falsch dimensioniert sind.
Open-Weight-KI ist deshalb weniger ein Ersatz für ChatGPT oder Claude als eine weitere Schicht im KI-Stack.
Ein sinnvoller Einstieg: erst den Workload messen
Bevor ein Unternehmen Hardware bestellt, sollte es zunächst wissen, welche Aufgaben tatsächlich Geld und Tokens verbrauchen.
Ein pragmatischer Test sieht so aus:
- einen wiederkehrenden, gut messbaren Prozess auswählen,
- Qualität und Kosten des bisherigen Cloud-Modells dokumentieren,
- denselben Prozess mit einem passenden Open-Weight-Modell testen,
- Fehlerquote, Geschwindigkeit und Betriebskosten vergleichen,
- erst danach über Self-Hosting oder dauerhafte Migration entscheiden.
Damit wird Open-Weight-KI nicht zur ideologischen Entscheidung zwischen „Cloud“ und „lokal“, sondern zu einer normalen Make-or-Buy-Frage.
Für Marketingteams dürfte genau das langfristig der relevante Trend sein: starke Cloud-Modelle für schwierige Aufgaben, kleinere oder selbst gehostete Modelle für wiederholbare Verarbeitung – und eine Orchestrierungsschicht, die entscheidet, welches Modell welchen Job übernimmt.