OpenAI'dan Yeni Güvenlik Kalkanı: ChatGPT için "Lockdown Mode" Yayında

Yapay zeka devi OpenAI, ChatGPT kullanıcılarını hedef alan karmaşık veri sızıntısı tehditlerine karşı yeni bir güvenlik katmanı olan "Lockdown Mode" (Kilit Modu) özelliğini duyurdu. Bu özellik, özellikle yapay zekanın dış kaynaklarla bağlantı kurarak veri sızdırmasını amaçlayan saldırı vektörlerine karşı bir kalkan görevi görmeyi hedefliyor. Sektörde "lethal trifecta" (öldürücü üçlü) olarak adlandırılan ve sistem komutları, kullanıcı verileri ile harici bağlantıların kötüye kullanılmasıyla gerçekleşen veri sızıntısı saldırıları, bu mod sayesinde büyük ölçüde engellenebiliyor.\n\nKilit Modu, yapay zekanın dış dünyaya veri göndermesini (data exfiltration) sınırlayarak çalışıyor. Normal şartlarda ChatGPT, web arama, görsel üretimi veya derin araştırma gibi araçları kullanırken dış sunucularla veri alışverişi yapabiliyor. Ancak bu durum, kötü niyetli kişilerin "prompt injection" (istem enjeksiyonu) adı verilen bir yöntemle yapay zekayı kandırmasına ve hassas kullanıcı verilerini gizlice dışarı sızdırmasına yol açabiliyor. İstem enjeksiyonu, yapay zekaya verilen komutların içerisine gizlenmiş zararlı talimatlarla sistemin kontrolünü ele geçirme yöntemidir. Kilit Modu aktif edildiğinde, bu tür şüpheli dış bağlantılar tamamen engelleniyor.\n\nGüvenlik uzmanları, bu yeni özelliğin işletmeler için kritik bir koruma sağlayacağını belirtirken bazı sınırlamalara da dikkat çekiyor. Örneğin, yazılım geliştiriciler için kritik olan Codex aracının ağ erişimi bu modun kapsamı dışında kalıyor. Ayrıca, dış bağlantıların sınırlandırılması yapay zekanın işlevselliğini ve verimliliğini düşürebiliyor. Uzmanlar, LLM (Büyük Dil Modelleri) teknolojisinde talimatlar ile verilerin birbirinden kesin olarak ayrılmasını sağlayan kalıcı bir çözüm bulunana kadar, bu tür koruyucu önlemlerin en gerçekçi savunma hattı olduğunu vurguluyor.