Hasło słownika

TPU

Akcelerator AI projektowany przez Google do obciążeń uczenia maszynowego, takich jak trening i inferencja dużych modeli.

AIkategoria
4aliasy
Kategoria: AI
Aliasy: Tensor Processing Unit Cloud TPU Google TPU TPU Google

Opis

TPU to wyspecjalizowany układ pod obliczenia tensorowe, czyli operacje typowe dla sieci neuronowych. Google używa TPU w swoich usługach i udostępnia je w chmurze jako Cloud TPU. Dla czytelnika najważniejsze jest rozróżnienie: CPU koordynuje system, GPU i TPU przyspieszają ciężkie obliczenia AI, a konkretna opłacalność zależy od modelu, frameworku i skali.

Przykłady

  • Model trenowany w Google Cloud może korzystać z Cloud TPU zamiast klastra GPU.
  • TPU-farma to potoczne określenie dużej puli akceleratorów TPU w centrum danych.
GoogleGPUInferenceLLMWydajność na wat