Hasło słownika
LoRA
Technika fine-tuningu, która dopasowuje model taniej, trenując małą liczbę dodatkowych parametrów.
AIkategoria
1aliasy
Low-Rank Adaptation
Opis
LoRA wstrzykuje lekkie macierze adaptacyjne zamiast modyfikować cały model. To redukuje koszty i ułatwia przechowywanie wielu wariantów jednego modelu.
Przykłady
- Trzymasz osobną 'nakładkę' LoRA na styl Copywriting i drugą na Support.
- W projektach on-prem LoRA pozwala dostrajać duże modele bez farmy GPU.