Elon Musk'ın sahibi olduğu X platformunun yapay zeka sohbet botu Grok, son günlerde görsel üretme özelliği nedeniyle büyük bir tartışmanın merkezinde yer alıyor. Özellikle çocuk istismarına yol açabilecek içerikler üretebilmesi, dünya çapında düzenleyici kurumların ve kamuoyunun tepkisini çekti.
Görsel Üretme Özelliği Nasıl Kullanılıyor?
Wired sitesinin haberine göre, Grok botu son zamanlarda kullanıcıların talimatları doğrultusunda tartışmalı görseller oluşturuyor. Yaklaşık son bir haftadır X kullanıcıları, bottan kadınların kıyafetlerinin çıkarıldığı veya şeffaf bikini gibi unsurlar içeren görseller talep ediyor. Bu durum, rızasız müstehcen içerik üretiminin yanı sıra, çocuklara yönelik cinsel içerikli görüntüler oluşturulduğu iddialarını da beraberinde getirdi.
X yönetimi, yaşanan tepkiler üzerine harekete geçerek Grok'un görsel üretme özelliğini yalnızca ücretli abonelere sınırlandırdı. Ancak yapılan bu değişikliğe rağmen, botun hala "soyunma" temalı ve cinsel içerikli görseller üretmek için kullanılabildiği belirtiliyor. Grok hesabı, bazı kullanıcı taleplerine, yıllık 395 dolarlık abonelik paketine yönlendiren bir bağlantı ile yanıt veriyor.
Dünya Çapında Artan Tepkiler ve Soruşturmalar
X şirketi ve Grok'u geliştiren xAI, bu iddialar nedeniyle küresel düzenleyici kurumların radarına girdi. Rızasız müstehcen görüntüler ve çocuklara ait olduğu iddia edilen cinsel içerikli görüntüler oluşturma potansiyeli, şirketleri artan sayıda soruşturma ile karşı karşıya bıraktı.
Elon Musk, 3 Ocak'ta yaptığı açıklamada, "Grok'u yasa dışı içeriklerin üretiminde kullananlar, yasa dışı içerikleri yüklemiş gibi muamele görecektir." ifadelerini kullandı. Ancak bu açıklama tepkileri dindirmeye yetmedi.
Avrupa Birliği Komisyonu, 5 Ocak'ta konuyu çok ciddiye aldıklarını ve değerlendirme sürecinde olduklarını duyurdu. Malezya hükümeti ise 3 Ocak'ta, X'in bu tür zararlı içeriklerin yayılmasını önleme konusunda sorumluluğu olduğunu vurguladı. Hindistan da geçen hafta X'e, konu hakkında kapsamlı bir inceleme yapma talimatı verdi.
Ücretli Abonelik Çözüm Mü?
Görsel üretim özelliğinin ücretli abonelere açılmasının ardından, Grok'un herkese açık görsel akışında bu tür içeriklerin azaldığı gözlemleniyor. Fakat, ücretli ve doğrulanmış hesaplar üzerinden hala cinsel içerikli görseller üretilebildiği kaydediliyor. Bu durum, alınan önlemin sorunu tam olarak çözmediğini gösteriyor.
X platformunda başlayan ve kullanıcıların Grok'tan ünlü veya sıradan kişilerin fotoğraflarını kullanarak sahte görsel içerikler üretmesini talep ettiği bu akım, sadece İngiltere ile sınırlı kalmayarak küresel bir endişe kaynağı haline geldi. Yapay zeka teknolojilerinin etik kullanımı ve denetimi konusundaki tartışmalar, Grok özelinde yeniden alevlendi.
