Vor nicht allzu langer Zeit war künstliche Intelligenz ein Cloud-Monopol. Wer mit großen Sprachmodellen arbeiten wollte, musste APIs bemühen, Abos abschließen und darauf hoffen, dass die Server gerade antworten. Heute lassen sich Modelle aus derselben Liga auf dem eigenen Rechner betreiben – ohne Internet, ohne Warteschlange, ohne Abo.

Offene Modelle wie Llama 3, Mistral 7B oder GLM 4.6 stehen ihren kommerziellen Geschwistern kaum nach. Das Spielfeld hat sich verschoben: Es geht nicht mehr nur um Zugang, sondern um Besitz – darum, KI-Werkzeuge wirklich in die eigene Umgebung einzubetten.

Die Zeit der offenen Modelle hat begonnen

Die neue Generation offener LLMs zeigt, dass Qualität kein exklusives Cloud-Merkmal mehr ist. Leistungsfähige Releases erscheinen im Monatsrhythmus, und die Community liefert Quantisierungen, Benchmarks und Tooling gleich mit. Was früher GPU-Cluster voraussetzte, läuft inzwischen auf Workstations oder sogar Laptops.

Ein Überblick: Wer gerade das Rennen macht

Drei Modellfamilien prägen aktuell die offene KI-Landschaft:

• Meta – Llama 3 und 3.1: westlicher Open-Source-Standard, breite Community, hervorragende Dokumentation.
• Mistral – Mixtral 8x7B und 7B: modular, hocheffizient, nahezu unverschämt schnell bei der Inferenz.
• Zhipu AI – GLM 4.6: stille Kraft aus China, stark in logischem Denken, Coding und langen Kontexten.

Daneben blühen weitere Linien auf: Phi-3 (Microsoft), Yi-Large (01.AI), Gemma (Google), Command-R (Cohere). Sie alle tragen zur Vielfalt bei, die das offene Ökosystem gerade so spannend macht.

Was „offen“ wirklich bedeutet

„Open Source“ ist in der KI-Welt ein dehnbarer Begriff. Offenheit kann heißen:

• Offene Gewichte: Das trainierte Modell lässt sich herunterladen und ausführen.
• Offene Daten: Trainingsquellen sind dokumentiert.
• Offene Lizenz: Kommerzielle Nutzung, Modifikation und Weitergabe sind erlaubt.

Viele Modelle – etwa Llama 3 – stellen zwar Gewichte bereit, schränken aber die Lizenz ein. Unternehmen müssen prüfen, ob der Einsatz in Produkten zulässig ist. GLM 4.6 erlaubt mehr Freiheit bei der Nutzung, während Mistral klassische Open-Source-Lizenzen wie Apache 2 nutzt. Der Trend geht zu hybriden Modellen: frei genug für Forschung und Innovation, aber mit Grenzen gegen unkontrollierte Kommerzialisierung.

GLM 4.6 im Detail: Das unterschätzte Kraftpaket

Hinter GLM 4.6 steht Zhipu AI (Z.AI), ein Spin-off der Tsinghua-Universität. Der akademische Ursprung spiegelt sich im Stil: sachlich, analytisch, präzise.

• Kontextfenster: bis zu 200 000 Tokens – hunderte Seiten bleiben gleichzeitig sichtbar.
• Code-Benchmarks: starke Ergebnisse in HumanEval und MBPP.
• Sprachvielfalt: exzellent in Englisch und Chinesisch, zunehmend präzise im Deutschen.
• Architektur: Llama-ähnlich, jedoch mit verfeinerten Attention-Mechanismen.

GLM 4.6 liefert nüchterne, faktenorientierte Antworten. Für technische Aufgaben, Datenanalyse oder Dokumentensynthese ist es eine exzellente Wahl.

Llama 3 & 3.1: Der neue Standard

Meta macht ernst mit offenen Modellen. Llama 3.1 erweitert das Kontextfenster auf 128 000 Tokens, bleibt stabil in langen Dialogen und überzeugt mit kreativem Stil. Es integriert sich nahtlos in LM Studio, Ollama, Hugging Face oder Web-Tooling.

Einschränkung: Die Lizenz begrenzt kommerzielle Nutzung. Wer mit Llama Einnahmen erzielt, braucht meist eine Zusatzvereinbarung mit Meta.

Mistral: Geschwindigkeit und Effizienz

Mistral steht für französische Präzision. Mixtral 8x7B nutzt Mixture-of-Experts – pro Anfrage wird nur ein Teil des Modells aktiviert. Das spart Speicher und beschleunigt die Inferenz massiv.

Schon mit 16–32 GB RAM läuft Mistral lokal flüssig. Es ist damit ein pragmatisches Allround-Modell für Chat-Assistenten, Kurzdialoge oder Web-Tools, die zügige Antworten benötigen.

Benchmarks sind nicht alles – Praxis zählt

Laborwerte helfen bei der Vorauswahl, aber Alltagstests sind ehrlicher:

• Schreiben: Llama 3 glänzt mit Stilgefühl und Struktur.
• Programmieren: GLM 4.6 identifiziert Fehler, ergänzt Code und liefert fundierte Erklärungen.
• Tempo: Mistral 7B reagiert prompt und läuft selbst auf leichter Hardware stabil.

Die Modelle unterscheiden sich wie Schreibstile: Llama charmant, GLM analytisch, Mistral pragmatisch. Das „beste“ Modell hängt vom Einsatz ab, nicht vom Tabellenplatz einer Benchmarkliste.

Beispiele aus dem Alltag

• Code-Task: GLM 4.6 versteht komplexe Python- oder TypeScript-Snippets, findet logische Fehler und schlägt Optimierungen vor.
• Schreib-Task: Llama 3 strukturiert Blogposts, Kampagnentexte oder Konzepte mit sicherem Ton.
• Recherche-Task: Mistral 7B oder GLM 4.6 analysieren große PDFs und liefern prägnante Zusammenfassungen.

Wer denselben Prompt durch alle drei Modelle jagt, erkennt sofort die unterschiedlichen Temperamente.

Modelle auswählen und kombinieren

In der Praxis lohnt es, zwei Modelle parallel bereitzuhalten – eines leicht, eines tief:

• Mistral 7B (Q4) für spontane Ideen und Brainstorming.
• GLM 4.6 (Q4_K_M) für präzise Analysen, Coden oder lange Dokumente.

LM Studio oder Ollama machen den Wechsel dazwischen trivial. Speicherbedarf (Quantisierung, GGUF-Format) sollte man im Blick behalten, sonst wird das Notebook schnell zum Düsenjet. So entsteht eine persönliche Modell-Werkstatt statt eines übergroßen Monolithen.

Wohin die Reise geht

Offene Modelle wachsen rasant, während viele Cloud-Anbieter ihre APIs stärker limitieren. Die Zukunft wird multimodal: Text, Bild, Audio – vielleicht bald Video. GLM 4.6 deutet erste Schritte an. Offene KI ist damit nicht nur eine technische Alternative, sondern ein kultureller Gegenentwurf: Kontrolle, Transparenz, Gestaltungsfreiheit.

Vielleicht ist das spannendste Modell am Ende dasjenige, das man versteht – nicht nur benutzt. Im nächsten Teil der Serie schauen wir uns an, wie man diese Modelle konkret automatisiert und in tägliche Workflows integriert, ohne die Kontrolle aus der Hand zu geben.