KI-Kiste

Was bedeutet GB/s?

GB/s steht für Gigabyte pro Sekunde und misst, wie viele Daten in einer Sekunde übertragen werden. Auf dieser Website taucht die Einheit vor allem bei der Speicherbandbreite auf, also beim Tempo zwischen Speicher und Prozessor. Der Wert hilft beim Abschätzen des Antworttempos: Liest ein System für jedes Token rund 16 GB Modellgewichte, schafft es bei 160 GB/s theoretisch höchstens etwa 10 Token pro Sekunde. In der Praxis ist es weniger. Die Geräte im Katalog reichen von 51,2 GB/s (Geekom A5 Pro) bis 1792 GB/s (Nvidia GeForce RTX 5090). Ein Mac mini M5 Pro liegt bei 307 GB/s. Wichtig ist auch die Schreibweise: GB/s mit großem B meint Bytes. Gb/s mit kleinem b meint dagegen Bits, das ist ein Achtel davon.