Prompt Injection Nedir?
Prompt injection, bir kullanıcının, saldırganın veya güvenilmeyen dış kaynağın büyük dil modeli tabanlı bir yapay zeka sistemine verdiği girdilerle modelin davranışını beklenmeyen, istenmeyen veya güvenlik açısından riskli biçimde değiştirmeye çalışmasıdır. Türkçeye “prompt enjeksiyonu”, “komut enjeksiyonu”, “talimat enjeksiyonu” veya daha açıklayıcı biçimde “talimat zehirlenmesi” olarak çevrilebilir. Bir yapay zeka sistemine “bu metni özetle”, “bu e-postaya cevap […]