Hasło słownika
Okno kontekstu
Maksymalna liczba tokenów, które model potrafi naraz 'widzieć' w wejściu i wyjściu.
AIkategoria
1aliasy
Context window
Opis
Gdy przekroczysz okno kontekstu, część historii lub dokumentów musi wypaść albo zostać skrócona. Duże okno pomaga w długich dokumentach, ale bywa droższe i wolniejsze.
Przykłady
- Model z małym oknem gubi początek rozmowy po kilku ekranach.
- W RAG trzeba dobrać chunking tak, żeby zmieścić źródła w oknie.