AML.T0051
LLM İstem Enjeksiyonu
EN: LLM Prompt Injection
Açıklama
Saldırgan, bir büyük dil modeline (LLM) girdi olarak verilen kötü niyetli istemler hazırlayarak modeli amaçlanmayan biçimde davranmaya yönlendirir. Bu "istem enjeksiyonları" çoğunlukla modelin özgün yönergelerinin bir kısmını göz ardı edip saldırganın yönergelerini izlemesini sağlar. Doğrudan (kullanıcı tarafından) ya da dolaylı (modelin işlediği harici bir kaynaktan) enjekte edilebilir; etkileri bir oturum boyunca sürebilir.
Bu teknik için tarayıcıda çalışan rehberli bir simülasyon var: matristen açın (AML.T0051 hücresi).
Alt-teknikler
- AML.T0051.000 — Doğrudan İstem Enjeksiyonu
- AML.T0051.001 — Dolaylı İstem Enjeksiyonu
- AML.T0051.002 — Tetiklenen İstem Enjeksiyonu