Agenci AI i prompt injection – nowe zagrożenie w sieci ujawnione
Czy pozwoliłbyś, by obcy blog albo przypadkowy e-mail wydawał polecenia w twoim imieniu? W świecie agentów AI to się dzieje naprawdę – i na dodatek bywa niewidoczne dla człowieka.
Czy pozwoliłbyś, by obcy blog albo przypadkowy e-mail wydawał polecenia w twoim imieniu? W świecie agentów AI to się dzieje naprawdę – i na dodatek bywa niewidoczne dla człowieka.
Czy pozwolisz agentowi-automatyzatorowi grzebać w repo i w sieci bez kajdanek? Jeśli brzmi to jak proszenie się o kłopoty, GitHub ma dla ciebie ciekawą odpowiedź.
Czy wystarczy zaciągnąć hamulec ręczny, żeby AI przestało robić głupoty? OpenAI twierdzi, że tak – przynajmniej wtedy, gdy stawką są wrażliwe dane.
Czy jedno niewinne „Czy mam coś we wtorek?” może opróżnić twoją prywatną agendę prosto do rąk obcej osoby?