Was ist Speicherbandbreite?
Die Speicherbandbreite gibt in GB/s an, wie schnell Daten zwischen Arbeits- oder Grafikspeicher und dem Prozessor fließen. Für lokale Sprachmodelle ist sie meist der wichtigste Wert für das Antworttempo. Für jedes erzeugte Token müssen die aktiven Modellgewichte einmal aus dem Speicher gelesen werden. Eine grobe Faustregel für die theoretische Obergrenze lautet daher: Bandbreite geteilt durch Modellgröße ergibt Token pro Sekunde. Echte Werte liegen darunter. In unserem Katalog reicht die Spanne von 51,2 GB/s beim Geekom A5 Pro bis 1792 GB/s bei der Nvidia GeForce RTX 5090. Dazwischen liegen 89,6 GB/s beim GEEKOM IT15 und Minisforum UM890 Pro, 170 GB/s beim Mac mini M6, 256 GB/s beim Bosgame M5, 307 GB/s beim Mac mini M5 Pro und 460 GB/s beim Mac Studio mit M5 Max.