Hasło słownika

HBM

Wysokoprzepustowa pamięć układana warstwowo, używana głównie przy GPU i akceleratorach AI wymagających bardzo szybkiego dostępu do danych.

DevOpskategoria
5aliasy
Kategoria: DevOps
Aliasy: High Bandwidth Memory pamięć HBM HBM3 HBM3E HBM4

Opis

HBM daje dużą przepustowość, bo stosy pamięci są umieszczane bardzo blisko procesora lub akceleratora i komunikują się szerokim interfejsem. To jeden z kluczowych komponentów nowoczesnych GPU dla AI. Jest droższa i trudniejsza produkcyjnie niż typowa pamięć mobilna, więc producenci chętnie przeznaczają moce na HBM, gdy popyt z data center płaci wyższą marżę.

Przykłady

  • Akcelerator AI z HBM może szybciej karmić GPU danymi niż układ z wolniejszą pamięcią.
  • Popyt na HBM do centrów danych może ograniczać dostępność innych typów DRAM.