Yapay Zekâ Sistemlerinde Güvenlik Riskleri: Ölümcül Üçlü ve Prompt Injection

¶1Büyük dil modellerine (LLM) sahip yapay zekâ ajanları, "ölümcül üçlü" (lethal trifecta) olarak adlandırılan üç özelliğin bir arada bulunması durumunda ciddi güvenlik riskleri taşır. Bunlar: özel veri erişimi, güvenilmez içerik kaynağına maruz kalma ve dışarıya iletişim yeteneği.

¶2Prompt Injection Saldırıları ve Türleri

¶3Yapay zekâlarda prompt injection saldırıları, LLM'lere normalde yapmaları gerekenlerin dışında komutlar içeren girdi verilmesiyle gerçekleşir. İki ana türü vardır: Doğrudan saldırıda saldırgan zararlı komutları doğrudan kullanıcı girdisine ekler. Dolaylı saldırıda ise zararlı talimatlar, yapay zekânın işlediği harici içeriklere gizlenir.

¶4KVKK ve GDPR Kapsamında Hukuki Yükümlülükler

¶5Türkiye'de 6698 sayılı KVKK ile Avrupa'da GDPR, kişisel verilerin güvenliğini sağlama yükümlülüğünü veri sorumlularına açıkça yükler. KVKK'nın 12. maddesi6698 sayılı Kanun m.12Veri güvenliğine ilişkin yükümlülüklerVeri sorumlusu; kişisel verilerin hukuka aykırı olarak işlenmesini önlemek, kişisel verilere hukuka aykırı olarak erişilmesini önlemek, kişisel verilerin muhafazasını sağlamak amacıyla uygun güvenlik düzeyini temin etmeye yönelik gerekli her türlü teknik ve idari tedbirleri almak zorundadır.mevzuat.gov.tr, kişisel verilerin güvenliğini sağlayanlara idari para cezası öngörür.

¶6Risk Azaltma Önlemleri

¶7Zero Trust mimarisi, veri minimizasyonu, sandboxing, prompt filtrasyonu ve sistem düzeyli politika kontrolleri, yapay zekâ sistemlerinde güvenlik risklerini azaltmak için uygulanması gereken başlıca teknik önlemlerdir.