SSD-Speicher für KI-Modelle erklärt
Eine SSD (Solid State Drive) ist ein Flash-Datenträger, der Daten auch ohne Strom behält. Bei der lokalen KI liegen dort die Modelldateien. Beim Start wird ein Modell von der SSD in den Arbeitsspeicher geladen. Die SSD beeinflusst also vor allem die Ladezeit. Auf die Geschwindigkeit der Token-Ausgabe hat sie kaum Einfluss, solange das Modell vollständig im Speicher liegt. Die Größe ist trotzdem wichtig, denn Modelldateien sind groß: Qwen 3.8-27B als 4-Bit-Quant umfasst etwa 16 GB. Wer mehrere Modelle und Varianten sammelt, füllt eine SSD schnell. Im Katalog reicht die Spanne von 512 GB beim Apple Mac mini (M6, 24 GB, 512 GB) bis 2 TB beim Bosgame M5. Der GEEKOM IT15 hat einen zweiten M.2-Slot für eine eigene Modellbibliothek.