Güney Kore'deki deepfake krizi: Telegram'a soruşturma açıldı

Güney Kore polisi, mesajlaşma uygulaması Telegram'da işlenen çevrimiçi cinsel suçlar nedeniyle soruşturma başlattı. Ulusal Soruşturma Ofisi'ne göre soruşturma, uygulamanın cinsel içerikli deepfake içeriklerin dağıtımına destek verip vermediğini araştırmaya odaklanacak. Bu adım, Telegram sohbet odalarında Güney Koreli kadınlara ait cinsel içerikli deepfake görüntülerin yayılmasının ardından atıldı. Yonhap haber ajansının üst düzey bir polis yetkilisine dayandırdığı habere göre, Güney Koreli yetkililer, mesajlaşma platformu Telegram hakkında soruşturma başlattı. Geçtiğimiz günlerde Bir Telegram kanalında en az 220 bin üyenin, değiştirilmiş cinsel içerikli görüntü ve videolar oluşturup paylaştığı ortaya çıkarılmıştı. GÜNEY KORE'DEN İŞ BİRLİĞİ ÇAĞRISI Ulusal Soruşturma Ofisi, soruşturmanın uygulamanın cinsel içerikli deepfake içeriklerin dağıtımına destek verip vermediğini araştıracağını açıkladı. Güney Koreli yetkililer, cinsel içerikli deepfake içeriklerle mücadelede Telegram ve diğer sosyal medya platformlarından iş birliği çağrısında bulundu. GENÇ KADINLAR HEDEFTE Bu adım, Telegram sohbet odalarında Güney Koreli kadınlara ait cinsel içerikli deepfake görüntü ve videolarının yayılmasının ardından atıldı. Devlet Başkanı Yoon Suk Yeol, kurbanların ve faillerin çoğunun küçük yaşta olduğunu açıklamıştı. Güney Kore medyası, kurbanlar arasında üniversite öğrencileri, öğretmenler ve askeri personelin de bulunduğunu bildirmişti. ŞİRKETTEN AÇIKLAMA Şirket daha önce yasadışı pornografi de dahil olmak üzere zararlı içerikleri aktif olarak denetlediğini öne sürmüştü. Şirketten yapılan açıklamada, "Moderatörler, platformun herkese açık kısımlarının proaktif bir şekilde izlenmesi, gelişmiş yapay zeka araçları ve kullanıcı raporlarının bir kombinasyonunu kullanarak her gün milyonlarca zararlı içeriği kaldırıyor" denilmişti.