0:00 / 0:00
XXII. Simonyi Konferencia - Prompt injection támadások Nagy nyelvi modellek ellen - Ács Gergely
- Készült:
- 2025. március 18.
- Feltöltve:
- 2025. június 30.
Esemény: Simonyi Konferencia 2025
A nagy nyelvi modelleket (LLM) egyre szélesebb körben alkalmazzák a gyakorlatban, elsősorban kiváló utasításkövető képességeik miatt. Ugyanakkor számos sebezhetőségük ismert, amelyek közül a prompt injection támadás kiemelkedik, és az OWASP fenyegetettségi listáján az első helyen áll. Ez annak köszönhető, hogy a támadó viszonylag egyszerűen ráveheti a modellt arra, hogy végrehajtsa az adatok közé ágyazott utasításokat, mivel a modell nem tudja megkülönböztetni az utasításokat a tényleges adattól. Az előadásban bemutatok néhány jól ismert prompt injection támadást, valamint a nagy nyelvi modellek elleni védekezési lehetőségeket.
További videók
