Hasło słownika
NVIDIA
Firma projektująca układy GPU i platformy obliczeniowe, kluczowa dla trenowania i inferencji modeli AI.
Firmy i markikategoria
A-Zhasło słownika
Opis
NVIDIA jest synonimem GPU w kontekście uczenia maszynowego: przyspiesza trening, inferencję i przetwarzanie równoległe. Dla praktyków ważne są tematy kosztu, latencji, kwantyzacji i optymalizacji pracy modeli.
Przykłady
- Model jest kwantyzowany, żeby zmieścił się na tańszym sprzęcie.
- Zespół mierzy latency inferencji i dobiera batchowanie.
- Infrastruktura do treningu wymaga monitoringu i planu awaryjnego.