Hasło słownika

EFA

Niskolatencyjny interconnect AWS dla instancji EC2, używany przy obciążeniach HPC, AI i ML wymagających szybkiej komunikacji między węzłami.

DevOpskategoria
3aliasy
Kategoria: DevOps
Aliasy: Elastic Fabric Adapter AWS EFA Elastic Fabric Adapter (EFA)

Opis

EFA przydaje się tam, gdzie wiele instancji musi wymieniać dane z małym narzutem: trening modeli, rozproszone obliczenia, HPC albo klastry inferencyjne. W porównaniu z typowym TCP w chmurze EFA daje niższą i bardziej przewidywalną latencję oraz wyższy throughput komunikacji między instancjami. To nie jest zwykła karta sieciowa do każdej aplikacji, tylko narzędzie pod konkretne, komunikacyjnie ciężkie workloady.

Przykłady

  • Klaster AI używa EFA, żeby szybciej synchronizować dane między instancjami.
  • EFA pomaga wtedy, gdy bottleneckiem jest komunikacja między węzłami, a nie sam model.