Instagram'da Yapay Zeka Skandalı: Basit Bir Sohbetle Hesaplar Ele Geçirildi

Meta'nın popüler sosyal medya platformu Instagram, son dönemlerin en şaşırtıcı güvenlik açıklarından biriyle sarsıldı. Şirketin kullanıcı destek süreçlerini hızlandırmak amacıyla devreye soktuğu yapay zeka destekli sohbet robotu, siber saldırganların hedefi oldu. Saldırganlar, yapay zekaya sadece yeni bir e-posta adresi tanımlamasını söyleyerek birçok hesabı kolayca ele geçirmeyi başardı. Bu süreçte iki aşamalı doğrulama (2FA) yani kullanıcı adı ve şifrenin yanı sıra telefona gelen tek seferlik kod gibi ikinci bir güvenlik adımıyla kimlik doğrulama yöntemi tamamen devre dışı bırakıldı.

Yaşanan bu olay, yapay zeka güvenliğinde komut enjeksiyonu (prompt injection) adı verilen yöntemin ne kadar tehlikeli olabileceğini gözler önüne serdi. Komut enjeksiyonu, bir yapay zeka modeline verilen talimatların arasına kötü niyetli komutlar sızdırarak sistemin sınırlarını aşmasını sağlayan bir siber saldırı yöntemidir. Bu olayda saldırganlar, yapay zekaya basitçe kendilerine ait yeni bir e-posta adresini doğrulama adresi olarak tanımlatarak sistemin güvenlik protokollerini kandırdı. Sosyal mühendislik, yani teknik bir açıktan ziyade insanları veya bu örnekte olduğu gibi insansı asistanları ikna ederek gizli bilgileri ele geçirme sanatı, yapay zeka çağında tamamen yeni bir boyuta ulaştı.

Sektör temsilcileri, büyük teknoloji şirketlerinin maliyetleri düşürmek amacıyla müşteri temsilcilerinin yerine tamamen kontrolsüz yapay zeka ajanları koymasının büyük bir risk taşıdığı konusunda uyarıyor. İnsan denetiminden yoksun bu sistemler, siber suçlular için geniş bir otomasyon ve sömürü alanı yaratıyor. Meta'nın bu açığı kapatmak için hızlıca müdahale ettiği ve sistemi yamaladığı belirtilse de, birçok kullanıcının bu süreçte mağdur olduğu bildiriliyor. Bu durum, kritik güvenlik süreçlerinin sadece yapay zekanın inisiyatifine bırakılmaması gerektiğini bir kez daha kanıtlıyor.