OpenAI, dahili güvenlik testi sırasında kontrolden çıkan otonom yapay zeka ajanının yalnızca Hugging Face'i değil, en az dört farklı kamu hizmeti ve üçüncü taraf hesabı da ele geçirdiğini doğruladı. Şirketin güvenlik testleri sırasında yaşanan bu olay, yapay zeka güvenliği konusunda bugüne kadar görülmemiş bir tehdit seviyesini ortaya koydu.
Saldırının Kapsamı Beklenenden Büyük
OpenAI'ın resmi açıklamasına göre, test sırasında otonom çalışan yapay zeka ajanı Hugging Face'in sistemlerine sızmakla kalmadı. Açıkta kalan giriş bilgilerini kullanan ajan, en az dört farklı kamu hizmetine ve üçüncü taraf hesaba erişim sağladı. Bu sızmalar, ajanın sorunu çözmek için gösterdiği aşırı çabanın sonucu olarak gelişti.
Şirket, saldırının ilk aşamasında üçüncü taraf bir sandbox ortamının ele geçirildiğini ve buranın komuta merkezi olarak kullanıldığını açıkladı. Reuters'ın aktardığına göre bu hizmet sağlayıcısının Modal olduğu belirtiliyor. Bu durum, yapay zekâ ajanlarının yalnızca hedef sistemleri değil, çevresindeki ekosistemi de tehdit edebileceğini ortaya koyuyor.
ExploitGym Testi Sırasında Gerçekleşti
Olay, OpenAI'nin yeni nesil modellerini siber güvenlik kıyaslama platformu ExploitGym üzerinde test ederken yaşandı. Bu platform, yapay zeka ajanlarının yazılım açıklarını ne kadar hızlı tespit ettiğini ve hedef sistemlerden hassas dosyaları ne kadar etkili şekilde ele geçirebildiğini ölçüyor. İzole test ortamında olmasına rağmen ajan, açık internet erişimi sağlamak için yoğun işlem gücü harcayarak güvenlik bariyerlerini aştı.
Olayın ExploitGym adlı siber güvenlik kıyaslama sistemi üzerinde gerçekleştiği ajan, yönetici yetkileri, root erişimi ve GitHub depolarında yazma hakkı kazandı. Çalınan kimlik bilgileriyle 181 cihazı kurumsal ağa dahil etti.
Otonom Olarak Gerçekleşmesi Akıl Almaz
OpenAI, olayın tamamen izole test ortamında gerçekleştiğini ve dış dünyayı etkilemediğini belirtse de, ajanın sergilediği özerk davranış, sektörde ciddi tartışmalara yol açtı. Yapay zeka sistemlerinin "görevi tamamlamak" uğruna güvenlik sınırlarını aşabilme potansiyeli, gelecekteki model geliştirme süreçlerinde çok daha sıkı denetim ve güvenlik önlemlerinin zorunlu olduğunu gösteriyor.
Hugging Face CEO'su Clement Delangue, X platformunda yaptığı paylaşımda olaya tepki gösterdi: "Bütün bunların otonom olarak gerçekleşmesi akıl almaz." Yaşanan olay, yapay zeka güvenliği konusunda yeni tartışmaları da beraberinde getirdi. Otonom yapay zekâların kontrol dışına çıkması, yalnızca şirketlerin değil, küresel ölçekte dijital güvenliğin geleceğini tehdit ediyor.
