Yapay zeka devi Anthropic, en yeni yapay zeka sistemlerinin yakın gelecekte insan kontrolünden çıkabileceği yönünde ciddi bir uyarıda bulundu. Dünyanın dört bir yanındaki şirketler tarafından kullanılan popüler sohbet robotu Claude’un arkasındaki şirket, yayımladığı son raporda bu tehlikenin altını çizdi.
İnsan Rolü Azalıyor
Şirketin yayımladığı rapora göre, yapay zeka geliştirme sürecinin her aşamasında insanın rolünün giderek azaldığına dair belirgin işaretler görülüyor. Bu durum, sistemlerin öngörülemez hale gelmesine yol açabilir.
Yavaşlatma Çağrısı
Anthropic, toplumsal yapıların ve etik uyum araştırmalarının teknolojinin baş döndürücü hızına yetişebilmesi için çığır açan yapay zeka gelişiminin yavaşlatılmasının veya geçici olarak tamamen durdurulmasının dünya için faydalı olacağını savunuyor. Şirkete göre, bireysel şirketlerin veya ülkelerin rekabette geride kalma korkusu yaşamaması adına, bu yavaşlama kararının tüm sektör tarafından ortaklaşa alınması kritik bir önem taşıyor.
Tepkiler ve Planlanan Toplantı
Ancak bu çağrı, ABD hükümeti ve diğer bazı teknoloji şirketleri tarafından Anthropic'in fazla 'felaket tellallığı' yaptığı gerekçesiyle eleştirildi. Bu tepkilere yanıt veren şirket, güvenliği detaylıca tartışmak üzere sektör liderleri, araştırmacılar ve hükümet yetkilileriyle geniş çaplı bir toplantı planladığını duyurdu.
Yapay zekanın kendi gelişimini şimdiden hızlandırdığına ve nihayetinde insan yardımı olmadan kendi kendini daha zeki hale getirebileceğine dikkat çeken Anthropic yetkilileri, raporlarındaki uyarılarını şu sözlerle noktaladı: 'Henüz o noktada değiliz ve bu senaryoyu önlemek hâlâ mümkün.'
