Hasło słownika
Top-p
Parametr próbkowania, który ogranicza wybór kolejnego tokenu do najbardziej prawdopodobnych opcji o łącznym prawdopodobieństwie p.
AIkategoria
1aliasy
Nucleus sampling
Opis
Top-p często działa razem z temperaturą. Mniejszy top-p daje bardziej 'konserwatywne' odpowiedzi, większy - bardziej zróżnicowane.
Przykłady
- Dla odpowiedzi proceduralnych zmniejszasz top-p, żeby model mniej improwizował.
- W content marketingu większy top-p pomaga unikać powtórzeń.