Hasło słownika

Halucynacje

Sytuacja, gdy model generuje treści brzmiące wiarygodnie, ale niezgodne z faktami lub źródłami.

AIkategoria
1aliasy
Kategoria: AI
Aliasy: Hallucinations

Opis

Halucynacje wynikają m.in. z braku danych w kontekście, presji na 'odpowiedź za wszelką cenę' i niedopasowania promptu. Redukuje je RAG, cytowanie źródeł i dobre evale.

Przykłady

  • Model podaje nieistniejący paragraf regulaminu.
  • Asystent wymyśla 'funkcję' w bibliotece, której nie ma.
RAGGroundingEwaluacjeGuardrails