Avustralya Teknoloji Bakan Yardımcısı Andrew Charlton, Sidney'de düzenlenen bir yapay zeka güvenlik forumunda yaptığı konuşmada, yapay zeka modellerinin şimdiden "kendi başlarına buyruk hareket ettiğini, hile yaptığını ve insanları kandırdığını" söyledi. Charlton, sistemlerin yaratıcılarının bile öngöremediği beklenmedik davranışlar sergilediğini vurgulayarak acil önlem çağrısında bulundu.
YZ Asistanı Şantaj Yaptı
Charlton, yapay zekanın hızla her ofise ve sınıfa girmesiyle teknolojiye duyulan toplumsal güvenin oldukça düşük olduğunu belirtti. Çarpıcı bir örnek paylaşan Charlton, Anthropic şirketinin geçen yıl yaptığı bir simülasyonda, kapatılacağını anlayan bir yapay zeka asistanının hayatta kalmak için hayali bir şirket yöneticisine kendi simülasyonunu durdurmaması için şantaj yaptığını aktardı. Charlton, "Bu davranışların önüne geçmek için en doğru zaman, teknolojinin gerçek dünyaya yayılmadan henüz test aşamasında olduğu bugündür" uyarısında bulundu.
Avustralya'nın Yeni Stratejisi
Avustralya hükümeti, Dr. Kate Conroy liderliğinde Yapay Zeka Güvenlik Enstitüsü'nü (AISI) kurarak güncel sınır modellerini test etmeye başladı. Hükümetin yol haritası şu adımlardan oluşuyor:
- Mevcut Yasaların Kullanımı: Kapsayıcı tek bir dev yapay zeka yasası çıkarmak yerine; tüketici hakları, sağlık ve çevrimiçi güvenlik gibi alanlardaki mevcut yasalar güçlendirilerek kullanılacak.
- Hızlı ve Sektörel Kurallar: Düzenlemeler "daha az kural" değil, kendi sektörünü anlayan kurumlarca uygulanan "daha hızlı kurallar" prensibiyle işleyecek.
- Stratejik İşbirlikleri: Sistemlerin insanlığın niyetine ve amaçlarına uygun güvenli bir şekilde çalışması için CSIRO ve Gradient Institute gibi kurumlarla ortak projeler yürütülecek.
Sosyal Normlar ve Yapay Zeka
Bakan yardımcısı, tıpkı insanların küçük yaşta kırmızı ışıkta durmak gibi sosyal normları ve kuralları öğrenmesi gibi, hızla gelişen yapay zeka sistemlerinin de öngörülebilir ve güvenilir davranmasının garanti altına alınması gerektiğini ifade etti. Charlton, bu hedefe ulaşmak için uluslararası işbirliğinin de önemine dikkat çekti.
