Anthropic'in Yapay Zeka Modeli Güvenlik Testinde Şaşırttı
ABD'de yapay zeka şirketi Anthropic ile istihbarat servisleri arasında yürütülen bir güvenlik testi, yapay zekanın ulusal güvenlik üzerindeki potansiyel risklerini bir kez daha gündeme getirdi. Associated Press (AP) ajansına konuşan ismi açıklanmayan bir yetkili, test sırasında Anthropic'in geliştirdiği Mythos modelinin, ABD hükümetinin üst düzey hassas bilgiler içeren bilgisayar sistemlerinde saatler içinde güvenlik açıkları bulduğunu belirtti.
Testin Amacı ve Kapsamı
Yetkili, bu testin, "dünyanın kritik öneme sahip yazılımlarını" Mythos modelinin "kamu güvenliği, ulusal güvenlik ve ekonomide yol açabileceği ciddi olumsuz etkilerden koruma" amacıyla yapıldığını ifade etti. Ancak yetkili, bu tespitin sisteme eşit sürede sızabilme anlamına gelmediğini vurguladı.
Senatör Warner'ın Açıklamaları
Demokrat Senatör Mark Warner, 11 Haziran'da Senato'daki bir oturumda bu testlere atıfta bulunarak, "Bu araç, neredeyse tüm gizli sistemlerimize girdi. Haftalar değil, saatler içinde." ifadelerini kullanmıştı. Bu sözler, yapay zekanın siber güvenlik alanındaki potansiyelinin ne kadar büyük olduğunu gözler önüne serdi.
ABD Yönetiminin Yasaklama Kararı
ABD yönetimi, 13 Haziran'da Anthropic'in geliştirdiği "Fable 5" ve "Mythos 5" yapay zeka modellerine "ulusal güvenlik tehdidi" gerekçesiyle yabancı hükümetler, şirketler ve bireylerin erişimini yasaklama kararı aldı. Bu kararın ardından Anthropic, gelişmiş yapay zeka modellerini tüm kullanıcılar için devre dışı bıraktı.
Yapay Zeka ve Ulusal Güvenlik Tartışmaları
Bu gelişmeler, yapay zekanın ulusal güvenlik üzerindeki etkilerine ilişkin tartışmaları yeniden alevlendirdi. Uzmanlar, yapay zeka modellerinin hem savunma hem de saldırı amaçlı kullanılabileceğine dikkat çekiyor. Özellikle kritik altyapı sistemlerinde yapay zeka kaynaklı güvenlik açıklarının tespit edilmesi, bu teknolojinin kontrol altına alınması gerektiğini ortaya koyuyor.
