Hasło słownika
Human-in-the-loop
Model działania systemu AI, w którym człowiek zatwierdza, koryguje albo nadzoruje decyzje modelu w istotnych punktach procesu.
AIkategoria
6aliasy
człowiek w pętli człowieka w pętli HITL human in the loop human oversight nadzór człowieka
Opis
Human-in-the-loop jest mechanizmem kontroli, a nie ozdobą procesu. Przy niskim ryzyku agent może działać samodzielnie, ale przy pieniądzach, danych osobowych, decyzjach prawnych lub operacjach produkcyjnych warto mieć próg, przy którym człowiek zatwierdza akcję. Brak człowieka w pętli zwiększa automatyzację, ale też przenosi ciężar na guardrails, audyt, limity i odpowiedzialność po fakcie.
Przykłady
- Agent może negocjować cenę, ale finalna płatność wymaga akceptacji człowieka.
- W Project Deal agenci działali bez człowieka w pętli aż do fizycznej wymiany przedmiotów.