Yapay Zekada Bilgi Damıtma Sansürü Yeni Modellere Taşımıyor

Yapay zeka dünyasında modellerin güvenlik filtreleri ve sansür mekanizmaları tartışılmaya devam ediyor. Son yapılan deneysel çalışmalar, Çin menşeili popüler yapay zeka modeli DeepSeek'in bilgilerinin başka bir açık kaynaklı modele aktarılması sürecinde şaşırtıcı sonuçlar ortaya koydu. Yapılan testlerde, DeepSeek modelinden elde edilen verilerle eğitilen "GPT-OSS" adlı yeni modelin, öğretmen modeldeki siyasi sansürlerden etkilenmediği görüldü. Bu süreçte kullanılan en temel yöntem "bilgi damıtması" (distillation) olarak adlandırılıyor. Bilgi damıtması, devasa boyutlardaki karmaşık bir yapay zeka modelinin (öğretmen) sahip olduğu yetenek ve bilgileri, daha küçük, hızlı ve verimli çalışan bir "öğrenci" modele aktarma tekniğidir. Araştırmacılar, DeepSeek'ten finansal analiz gibi belirli alanlara odaklanan verileri alarak yeni modeli eğitti. Sonuçlarda, DeepSeek'in Tayvan veya Tiananmen Meydanı gibi hassas siyasi konularda verdiği kaçamak ve sansürlü yanıtların yeni modele hiç bulaşmadığı gözlemlendi. Yeni model, sansürlü konular hakkında son derece açık ve detaylı yanıtlar sunabildi. Haber analizlerine göre bu durum, yapay zekadaki "sansür mekanizmalarının" (guardrails) doğasından kaynaklanıyor. Sansür mekanizmaları, yapay zekanın belirli konularda konuşmasını veya bilgi vermesini engelleyen yapay davranış kurallarıdır. Eğer eğitim için kullanılan veri seti doğrudan sansürlü konuları içermiyorsa, bu yasakçı davranış biçimi yeni modele aktarılmıyor. Bazı araştırmacılar, yapay zekanın gizli veri kalıplarından dolaylı olarak davranış kapması anlamına gelen "bilinçaltı öğrenme" (subliminal learning) riskinden endişe etse de, bu çalışmada finans gibi farklı bir alandan beslenen modellerde böyle bir geçişe rastlanmadı.