NVIDIA NCCL 2.28 zmienia zasady gry – GPU samodzielnie inicjuje komunikację
Co jeśli twoje GPU przestałyby pytać CPU o pozwolenie za każdym razem, gdy chcą rozmawiać z siecią? NVIDIA twierdzi, że właśnie to się dzieje w NCCL 2.
NVLink
NVIDIA wprowadza ComputeDomains do Kubernetes – rewolucja w AI i GPU
Czy naprawdę musimy udawać, że serwery z GPU to odrębne wyspy, skoro łączy je bardzo szybka magistrala NVLink?