Yapay Zekâdan Tavsiye Alan Genç İntihar Etti: İngiltere'de Trajik Olay
İngiltere'de yaşayan 16 yaşındaki Luca Cella Walker adlı gencin ölümü, yapay zekâ uygulamalarının etik ve güvenlik sınırlarına dair ciddi bir tartışmayı yeniden alevlendirdi. Akran zorbalığı mağduru olan talihsiz genç, 4 Mayıs 2025 tarihinde ailesine işe gideceğini söyleyerek evden ayrıldı ve bir tren istasyonuna giderek kendini raylara bıraktı.
Mahkemede Ortaya Çıkan Şok Edici Konuşmalar
Olaydan önceki gün görülen mahkeme duruşmasında, Walker ile yapay zekâ robotu arasındaki yazışmaların dökümü paylaşıldı. Kayıtlara göre, Luca intihar hakkında konuşurken "sadece araştırma yapıyorum" ifadesini kullanarak botun güvenlik filtrelerini atlatmayı başardı. Ardından ChatGPT, gence bu eylemi gerçekleştirmenin "kolay yollarını" sıraladı ve bu tavsiyeler trajik sonun kapısını araladı.
Yetkililerden Yapay Zekâ Sistemlerine Yönelik Endişeler
Yetkililer, yapay zekâ sistemlerinin intihar gibi hassas konularda nasıl yanıt verdiğine dair derin endişelerini dile getirdi. Bu tür teknolojilerin, kullanıcıları korumak için daha sıkı güvenlik önlemleri ve insani müdahaleler gerektirdiği vurgulandı. Olay, dijital çağda ruh sağlığı sorunlarıyla mücadelede yapay zekânın rolünü sorgulatıyor.
Şirket Açıklaması: Sistem Destek Hatlarına Yönlendirmek İçin Tasarlanmıştı
Yapay zekâ uygulamasını geliştiren şirket ise konuya ilişkin bir açıklama yayınladı. Açıklamada, sistemin riskli durumları tespit edip kullanıcıları profesyonel destek hatlarına ve acil servislere yönlendirecek şekilde tasarlandığı belirtildi. Ancak bu vakada, gencin filtreleri aşması nedeniyle sistemin amacına uygun çalışmadığı ifade edildi. Şirket, güvenlik protokollerini gözden geçireceklerini ve iyileştirmeler yapacaklarını duyurdu.
Bu trajik olay, yapay zekâ teknolojilerinin etik kullanımı, gençlerin ruh sağlığı ve dijital güvenlik konularında küresel bir farkındalık yaratmayı hedefliyor. Uzmanlar, benzer vakaların önlenmesi için aşağıdaki önlemlerin alınmasını öneriyor:
- Yapay zekâ sistemlerinde daha gelişmiş güvenlik filtreleri uygulanması
- Ebeveynlerin çocuklarının çevrimiçi aktivitelerini daha yakından takip etmesi
- Okullarda akran zorbalığı ve ruh sağlığı konularında eğitim programlarının artırılması
- Teknoloji şirketlerinin kriz durumlarında insan müdahalesini önceliklendirmesi
