ABD merkezli Bloomberg'in ulaştığı gizli şirket belgelerine göre TikTok, 2021 yılında zararlı içerikleri azaltmak için geliştirdiği algoritma güncellemesini tüm kullanıcılara aynı anda sunmayarak yaklaşık 15 milyon ABD'li kullanıcıyı kapsayan bir kontrol grubunda eski sistemi kullanmaya devam ettirdi. Belgelerde, bu grupta yer alan 16 yaşındaki Chase Nasca'nın intihar ve kendine zarar verme içeriklerinin yoğun şekilde önerildiği bir "filtre balonu" içine sürüklendiği, ölümünden önce iki haftada kendisine 7 bin 563 video önerildiği ve ardından yaşamına son verdiği belirtildi.
Güvenlik güncellemesi neden ertelendi?
Bloomberg'in ulaştığı belgeye göre platform, yeni algoritmanın kullanıcı etkileşimini azaltıp azaltmayacağını ölçmek amacıyla ABD'deki kullanıcıların yaklaşık yüzde 10'unu kapsayan bir kontrol grubu oluşturdu. O dönemde yaklaşık 15 milyon kişiyi kapsayan bu gruptaki kullanıcılar, uygulamanın eski algoritmasını kullanmaya devam etti. Bu durum, güvenlik önlemlerinin tüm kullanıcılara eşit şekilde uygulanmadığını gösteriyor.
Chase Nasca'nın ölümü ve filtre balonu
Bloomberg'in haberine göre, kontrol grubunda yer alan 16 yaşındaki Chase Nasca da yeni güvenlik önlemlerinden yararlanamayan kullanıcılar arasındaydı. Şirket içi belgeye göre TikTok'un algoritması, Chase'e intihar, yalnızlık, umutsuzluk ve kendine zarar verme temalı binlerce video önerdi. Genç kullanıcı daha sonra yaşamına son verdi.
Bloomberg'in aktardığı belgeye göre Chase'in hesabı, algoritmanın benzer içerikleri sürekli önerdiği ve "filtre balonu" olarak tanımlanan yapı içine hapsoldu. Belgede, gencin intihar ve kendine zarar verme içerikleriyle "yoğun bir bombardımana" maruz kaldığı ifade edildi. Şirketin hazırladığı değerlendirmede, Chase'in kontrol grubunda bulunması nedeniyle TikTok'un filtre balonunu önlemeye yönelik geliştirdiği güvenlik stratejilerinin "tasarım gereği bu kullanıcı üzerinde etkili olmadığı" belirtildi.
İç belge ölümden sonra hazırlandı
Bloomberg'e göre söz konusu belge, Mart 2023'te TikTok'un güvenlik ve algoritma ekipleri tarafından hazırlandı. "Gizli ve özel" ibaresi taşıyan belge, Chase Nasca'nın ölümünden önceki haftalar, günler ve saatlerde izlediği içeriklerin ayrıntılı analizini içeriyor. Belgenin halen mahkeme kararıyla gizlilik altında tutulduğu belirtildi.
Habere göre TikTok normal şartlarda bireysel kullanıcıların izleme geçmişini detaylı şekilde incelemiyor. Ancak Bloomberg Businessweek'in genç kullanıcılar üzerindeki etkileri araştıran haberi kapsamında şirketten yorum istenmesi üzerine Chase'in hesabı geriye dönük olarak analiz edildi.
Annesi hesabında rahatsız edici içerikler buldu
Habere göre Chase Nasca, Şubat 2022'de New York eyaletinin Bayport bölgesinde bir trenin önüne atlayarak hayatını kaybetti. Haberde, daha önce ruh sağlığı sorunları geçmişi bulunmadığı belirtilen ve futbol yeteneğiyle tanınan 16 yaşındaki gencin herhangi bir intihar notu bırakmadığı, bu nedenle ölümünün ailesi ve arkadaşları için büyük şaşkınlık yarattığı aktarıldı.
Bloomberg'in haberine göre annesi daha sonra oğlunun TikTok hesabına erişerek algoritmanın sürekli intiharla ilgili videolar önerdiğini fark etti. Ölümünden beş gün önce Chase'e, yaklaşan bir trenin önünde selfie çeken bir kişinin yer aldığı ve "Kafamı dağıtmak için kısa bir yürüyüşe çıktım" ifadelerinin bulunduğu bir videonun önerildiği tespit edildi.
İki haftada 7 bin 563 video incelendi
Bloomberg'in ulaştığı belgeye göre TikTok, Chase'in ölümünden önceki son iki haftada kendisine önerilen toplam 7 bin 563 videoyu inceledi. Analizde videoların yüzde 73'ünün intihar girişiminden kurtulanların anlatımları, ruh sağlığı sorunları, intihar farkındalığı ile ilişki özlemi veya ayrılık üzüntüsü gibi ortak temalar içerdiği belirlendi. Belgede bu içeriklerin TikTok'un topluluk kurallarını ihlal etmediği ifade edildi.
Bunun yanında videoların yaklaşık yüzde 10'unun ise platform kurallarını ihlal ettiği tespit edildi. Bloomberg'in aktardığına göre bu içerikler arasında derin depresyon, düşük öz saygı, yalnızlık, tükenmişlik hissi ve intihar düşüncelerini içeren mesajlar ile görseller yer aldı. Genel tabloya bakıldığında Chase'e önerilen binlerce videonun ortak temasının umutsuzluk olduğu belirtildi.
Son saatlerinde tren ve intihar içerikleri
Habere göre şirket içi analiz, Chase'in yaşamının son günlerine ilişkin çarpıcı ayrıntılar da ortaya koydu. Belgede, ölümünden bir gün önce beş saatten fazla TikTok kullandığı ve trenler ile intihar konulu içerikleri aradığı kaydedildi. Ölüm günü ise intihara gönderme yapan videoları favorilerine eklediği belirtildi.
Chase, yaşamını yitirmeden saatler önce Manhattan Köprüsü'nden atlamadan önce sosyal medyada "Bu dünya beni unutacak" mesajını paylaşan bir çocuğun hikâyesini anlatan videoyu defalarca izledi. Gencin gördüğü son videonun ise ağlayan bir kişinin görüntülerini içerdiği aktarıldı.
Hesap bir yıl sonra bile benzer içerikler almaya devam etti
Chase Nasca'nın hesabı ölümünün ardından aktif kalmaya devam etti. Annesinin yaptığı incelemede, algoritmanın aradan bir yıl geçmesine rağmen hesaba hâlâ intihar temalı içerikler önermeyi sürdürdüğü görüldü. Bloomberg'in ulaştığı şirket içi belge, TikTok'un güvenlik önlemlerinin tüm kullanıcılara aynı anda uygulanmamasının sonuçlarına ilişkin dikkat çekici bulgular içeriyor.
