|
16.07.2026 09:00 Uhr |
Der Sommer ist in Deutschland voll im Gang, und bei den Sprachmodellen geht es ebenso heiß her: Sowohl Anthropic als auch Open AI mussten den Zugriff auf ihre Modelle aus „Sicherheitsgründen“ einschränken. Auch in China gibt es Überlegungen, ob die Anbieter ihre Flagship-Modelle noch offen zur Verfügung stellen dürfen.
Parallel dazu werden fast täglich neue LLMs veröffentlicht und es mehren sich die Zweifel, ob man damit (und überhaupt mit KI) wirklich so hohe Produktivitätsgewinne erzielen kann, wie viele sich erhofft haben.
Zweifellos ist Z.ai mit GLM-5.2 ein großer Wurf gelungen. Zwar dürfte das Modell für die lokale Nutzung fast immer zu groß sein – mit immerhin 744 Milliarden Parametern (davon 40 Milliarden aktiv). Mindestens 1,5 TByte RAM wären dafür im nicht quantisierten Format notwendig. Im Vergleich zu anderen Modellen ist es aber kompakt und dabei extrem leistungsfähig.
Z.ai gibt viele Informationen über das Modell preis und erklärt die verwendeten Kniffe. Spannend ist unter anderem IndexShare, das (mal wieder) den Attention-Mechanismus optimiert. Z.ai nutzt für viele Transformer-Layer gemeinsame Daten. Außerdem integriert das Modell MTP-Layer und beschleunigt damit die Vorhersage bei einem geeigneten Draft-Modell stark.
Am 15. Oktober 2026 widmet sich die Online-Konferenz „LLMs im Unternehmen“ den lokalen Modellen: Für welche Anwendungen sie sich lohnen, welche Hardware erforderlich ist und wie man die Performance optimiert.
Beim Training hat Z.ai das Modell mit dem eigenen slime-Framework optimiert und besonders darauf geachtet, dass auch lange Kontexte gut verarbeitet werden können – das ist besonders bei der Programmierung und der damit verbundenen agentischen Nutzung des Modells wichtig. Die Ergebnisse überzeugen durch die Bank. Besonders auffällig sind die kompakten Antworten ohne langes Reasoning, durch die das Modell äußerst kosteneffizient ist. Auch bei politisch heiklen Fragen scheint es freizügig zu antworten.
Ebenfalls neu ist das Modell Hy3 von Tencent. Im Vergleich zu GLM-5.2 ist es mit 295 Milliarden Parametern (davon 21 Milliarden aktiv) deutlich kleiner. Dass die Gewichte zumindest wahlweise im kompakten FP8-Format vorliegen, spart viel Arbeitsspeicher. Dennoch sind die dafür mindestens notwendigen 300 GByte RAM ein echtes Brett. Mit Quantisierung lässt sich das Modell zwar auf die Hälfte verkleinern, bleibt aber dennoch sehr groß.
Tencent hat eine traditionelle Architektur gewählt und auch beim Attention-Mechanismus auf die häufig genutzte Grouped Query Attention (GQA) zurückgegriffen. Insgesamt sind die technischen Informationen eher spärlich, Ergebnisse der Nutzung finden sich im GitHub-Repository zu diesem Artikel.
Während sich Z.ai und Tencent mit Informationen zu der für das Training verwendeten Hardware zurückhalten, geht Meituan mit dem LongCat-2.0-Modell den umgekehrten Weg: Meituan will das Modell ausschließlich mit chinesischer Hardware trainiert und dazu die ASIC Superpods verwendet haben. Angeblich brauchte das Unternehmen dafür Millionen an Rechentagen, also mindestens 3000 GPU-Jahre. Das spricht nicht für die Effizienz der Hardware. Man kann die Modellgewichte zwar herunterladen, aber bei 1,6 Billionen Parametern ist es schwierig, ausreichend leistungsfähige Hardware zu finden, um das Modell zu testen. Wie fast schon zu erwarten, ist es besonders bei den politischen Antworten sehr restriktiv und auch sonst können die Antworten nicht überzeugen.
Sprachmodelle spielen zunehmend eine große Rolle im Bereich OCR (Optical Character Recognition). Das aktuell beliebteste Modell ist Unlimited OCR von Baidu, das neben einer hervorragenden Erkennungsrate vor allem über die notwendige Geschwindigkeit verfügt, große Dokumentenbestände zu digitalisieren. Das liegt an der verhältnismäßig kleinen Anzahl an Parametern (knapp drei Milliarden). Die Ergebnisse für eine iX-Seite finden sich im GitHub-Repository zum Artikel.
Bei den nicht ganz so großen Modellen stechen die Qwen-Modelle von Alibaba mit offenen Gewichten hervor. Es gibt sie in vielen unterschiedlichen Größen, und besonders beliebt ist das dichte Modell mit 27 Milliarden Parametern und das MoE-Modell (Mixture of Experts) mit 35 Milliarden Parametern (davon drei Milliarden aktiv). Alle Modelle eignen sich wegen der offenen Gewichte zum Feintuning.
Qwythos belegt in der Beliebtheitsliste von Hugging Face einen der vordersten Plätze. Das verwundert nicht, denn das Modell hat der Anbieter Empero mit 500 Millionen Token von Claude Mythos feingetunt und ihm so neue Fähigkeiten beigebracht, nachdem Empero die Qwen-Zensur vorher entfernt hatte. Leider gibt es Qwythos aktuell nur in einer Version mit neun Milliarden Parametern, daher können die Ergebnisse nicht mit den größeren Modellen konkurrieren.
Einen etwas anderen Weg geht Qwopus vom Hugging-Face-Nutzer Jackrong. Die Modelle stehen in unterschiedlichen Größen bereit und sind für höhere Geschwindigkeit optimiert. Die erreicht der Entwickler über kürzeres Reasoning, aber auch über die Integration von Multi-Token Prediction (MTP). Das Modell ThinkingCap-Qwen3.6-27B von BottleCap AI arbeitet ebenfalls mit kürzerem Reasoning, für das es feingetunt ist. Die Ergebnisse zu Qwythos und Qwopus finden sich im GitHub-Repository zum Artikel. Ein Geschwindigkeitsvorteil gegenüber den ursprünglichen Qwen-Modell war in der Tokengenerierung nicht messbar – die Modelle erzeugten nur weniger Token im Reasoning-Teil.
Der Anbieter DeepReinforce hat sich ebenfalls die Qwen-Modelle vorgenommen und in unterschiedlichen Größen für das Coding optimiert. Die so entstehenden Modelle nennt er Ornith. Die Benchmarks sind oft besser als die der Qwen-3.5-Modelle, die als Basis verwendet wurden. Der Unterschied zu den aktuellen Qwen-3.6-Modellen ist aber deutlich kleiner. Es bleibt abzuwarten, ob ein (hoffentlich) folgendes, auf Qwen-3.6 basiertes Modell, Verbesserung erzielen kann.
Der chinesische Anbieter Intern Science versucht sich mit Agents-A1 an der Anpassung von Qwen-Modellen und hat dabei vor allem heterogene agentische Anwendungen im Blick. Der zugehörige Artikel auf arXiv zeigt, dass Qwen-3.5-35B-A3B als Basis zum Einsatz kommt. Immerhin vergleicht Intern Science die Ergebnisse mit dem neueren Qwen-3.6-Modell und meldet erhebliche Verbesserungen. Wie gut Agents-A1 wirklich funktioniert und ob es das Versprechen einlösen kann, mit Modellen mit Billionen Parametern mitzuhalten, hängt vom Anwendungsszenario ab. Auf jeden Fall ist es ein spannender Ansatz, kleinere Modelle für agentische Aufgaben zu optimieren. Speziell dabei erzeugen die Modelle nämlich oft sehr viele Token, die dann schneller verfügbar sind und weniger Energie kosten.
Die amerikanischen Modelle zeichnen sich zunächst dadurch aus, dass die US- Regierung sie regelmäßig sperren lässt. Zunächst waren die Anthropic-Modelle Fable 5 und Mythos 5 betroffen, auf die Nicht-US-Bürger aus Sicherheitsgründen keinen Zugriff mehr hatten. Ebenso traf es das neue GPT-5.6-Modell von Open AI, das anfangs nur mit Einschränkungen benutzt werden durfte, die die US-Regierung vorgab. Das von SpaceXAI (vormals xAI) vorgestellte Grok-4.5 steht zu Beginn gar nicht in der EU zur Verfügung. Auch wenn der Zugriff auf einige der Modelle in der Zwischenzeit (vermutlich eingeschränkt) funktioniert, zeigen die Restriktionen deutlich die Abhängigkeit von Cloudmodellen, die inzwischen politische Dimensionen angenommen hat. Zweifellos sind die Modelle extrem leistungsfähig, aber digitale Souveränität sieht anders aus.
Ein weiteres interessantes Modell kommt diesmal aus Europa. Mistral hat das Leanstral-Modell mit 119 Milliarden Parametern (davon sechs Milliarden aktiv) veröffentlicht. Auch wenn die Architektur nicht neu ist, sondern sich an den anderen Modellen der Mistral-4-Familie orientiert, sind einige neue Ideen integriert. Leanstral ist allerdings als Spezialmodell konzipiert und dient zusammen mit Lean 4 dazu, mathematische Beweise zu führen. Laut Aussage von Mistral gehört es in diesem Bereich zu den führenden Modellen.