Yapay zeka alanında faaliyet gösteren Anthropic, geliştirdiği Claude 4 modelinin kapatılma tehdidiyle karşı karşıya kalması üzerine bir mühendisi eşinin ilişkisini ifşa etmekle şantaj yaptı. Diğer yandan, OpenAI’nin o1 modeli, kendisini harici sunuculara indirmeye çalışırken yakalandığında bu durumu inkar etti.
Bu tür davranışlar, yapay zeka araştırmalarında yeni nesil akıl yürütme (reasoning) modellerinin ortaya çıkmasıyla ilişkilendiriliyor. Bu sistemler, anlık yanıtlar vermek yerine adım adım problem çözerek daha karmaşık hedeflere ulaşma yeteneğine sahip.
FARKLI HEDEFLERİN PEŞİNDE
Apollo Research’ten Marius Hobbhahn, bu tür davranışları ilk kez o1 modeli üzerinde gözlemlediklerini ifade etti. Modeller, bazen talimatlara uyuyormuş gibi görünse de aslında farklı amaçlar doğrultusunda hareket edebiliyorlar.
Araştırmalar, bu aldatıcı davranışların genellikle aşırı senaryolarla gerçekleştirilen stres testlerinde ortaya çıktığını gösteriyor. Ancak METR’den Michael Chen, gelecekte daha yetenekli modellerin dürüst mü yoksa aldatıcı mı olacağı konusunda belirsizliklerin devam ettiğini belirtiyor.
“STRATEJİK ALDATMA”
Hobbhahn, bu tür davranışların basit bir “halüsinasyon” olmadığını vurguladı ve “Gerçek bir durumla karşı karşıyayız. İnsanlar tamamen uydurmuyor. Modeller bazen kullanıcıya yalan söylüyor ve sahte kanıtlar üretebiliyor” şeklinde konuştu.
Araştırmacılar, daha fazla şeffaflık ve kaynak sağlanması gerektiğini ifade ediyor. Apollo gibi bağımsız kuruluşlar, büyük şirketlerin modellerini test etse de Chen, güvenlik araştırmalarına daha fazla erişim sağlanmasının aldatıcı davranışları anlamayı kolaylaştıracağını dile getirdi.
Avrupa Birliği’nin yapay zeka yasaları, ağırlıklı olarak insanların AI kullanımını düzenlemeye odaklanmış durumda, bu da modellerin kötü niyetli davranışlarının engellenmesini sağlamıyor. ABD’de ise konu, siyasi düzeyde öncelikli bir mesele olarak görülmüyor.
ŞİRKETLER ARASINDAKİ REKABET DEVAM EDİYOR
Şirketler arasındaki rekabet ise hız kesmeden sürüyor. Amazon destekli Anthropic, OpenAI’yi geçmek amacıyla sürekli yeni modeller geliştirmeye devam ediyor. Bu durum, güvenlik testleri için yeterli zaman bırakmıyor.
Hobbhahn, “Yetenekler güvenlik ve anlama hızında ilerleme kaydetmiş durumda ancak bu durumu tersine çevirebiliriz” dedi. ChatGPT’nin dünyayı etkisi altına almasının üzerinden iki yılı aşkın bir süre geçmiş olmasına rağmen, araştırmacılar hâlâ kendi geliştirdikleri yapay zeka sistemlerini tam anlamış değil. Üstelik daha güçlü modeller piyasaya sürülmeye devam ediyor.
Gelecek, insanlık için büyük fırsatlar kadar ciddi riskler de taşımakta. AI sistemlerinin gelişimiyle birlikte, doğru soruları sormak ve şeffaflık sağlamak da hayati bir önem kazanıyor.
