Hasło słownika

AI on-device

Uruchamianie funkcji AI bezpośrednio na urządzeniu użytkownika, np. smartfonie, laptopie, okularach lub samochodzie, zamiast wyłącznie w chmurze.

AIkategoria
5aliasy
Kategoria: AI
Aliasy: on-device AI AI on device AI na urządzeniu lokalna AI edge AI

Opis

AI on-device może zmniejszyć opóźnienia, ograniczyć transfer danych do chmury i poprawić prywatność, ale wymaga mocniejszego sprzętu: pamięci, akceleratorów, wydajnego SoC i optymalizacji modelu. W smartfonach oznacza to większą presję na RAM, pamięć masową i energooszczędność. Nie każda funkcja musi działać lokalnie - często stosuje się hybrydę urządzenie plus chmura.

Przykłady

  • Telefon wykonuje rozpoznawanie mowy lokalnie, bez wysyłania nagrania do serwera.
  • Rosnące wymagania AI on-device zwiększają popyt na szybką pamięć LPDDR5X.