Hasło słownika
Guardian agent
Agent AI zaprojektowany do nadzorowania innych agentów: sprawdza ich decyzje, polityki, uprawnienia i potencjalnie ryzykowne działania.
AIkategoria
4aliasy
guardian agents agent strażnik agent nadzorujący AI guardian
Opis
Guardian agent pełni rolę drugiej pary oczu w systemie agentowym. Może oceniać, czy plan jest zgodny z polityką, czy narzędzie ma właściwy zakres uprawnień, czy wynik nie wygląda na prompt injection albo czy akcja wymaga zgody człowieka. To szczególnie ważne, gdy agenci wykonują operacje w repozytoriach, chmurze, terminalu lub systemach produkcyjnych.
Przykłady
- Agent kodujący chce zmienić pliki produkcyjne, a guardian agent wymaga dodatkowej zgody.
- Guardian agent wykrywa, że odpowiedź zawiera sekret i blokuje wysyłkę.