Was ist ein Sprachmodell?
Ein Sprachmodell, englisch Large Language Model (LLM), ist ein neuronales Netz, das aus riesigen Textmengen gelernt hat und Antworten Token für Token erzeugt. Lokale Modelle laufen auf dem eigenen Rechner, ohne dass Daten in die Cloud gehen. Wie groß ein Modell ist, gibt die Zahl seiner Parameter an. Ein aktuelles Beispiel ist Qwen 3.8-27B: Als 4-Bit-Quant belegen seine Gewichte etwa 16 GB. Laut heise schlägt es in mehreren Benchmarks Claude Opus 4.6, das im Februar 2026 führende Cloud-Modell. Googles Gemma 4 gibt es in fünf Größen, von E2B für Mobilgeräte bis 31B für Grafikkarten und Workstations. Lokale Modelle liegen insgesamt etwa ein halbes Jahr hinter der Cloud-Spitze. Welches Modell auf einem Gerät läuft, hängt vor allem vom Grafikspeicher ab: Auf dem Mac mini M5 Pro mit 24 GB läuft ein 27B-Modell als 4-Bit-Quant.