Yapay zekayla cinsel içerikli görüntü oluşturdu! 5 yıl hapis cezası aldı

Ülkede geçen hafta okul ve üniversitelerle bağlantılı bazı sohbet gruplarından çoğunluğunu kadın ve kız çocuklarının oluşturduğu birçok mağdurun manipüle edilen ses ve görüntüleri içeren "deepfake" adı verilen yöntem aracılığıyla "cinsel içerikli görüntülerinin" yayıldığı tespit edildi.

Sosyal medya kullanıcılarının bazı gruplara, sınıf arkadaşları ve öğretmenleri gibi tanıdıkları kişilerin fotoğraflarını yüklemesi ve diğer kullanıcıların da bu fotoğrafları kullanarak sahte görüntüler oluşturması ülke genelinde tepkilere yol açtı.

Tepkilerin ardından Seul Merkez Bölge Mahkemesi, 28 yaşındaki bir kişiyi yaklaşık 400 deepfake videosu üretmek ve bu türden 1700 civarı görüntüyü internette yaymaktan suçlu buldu.

Şüphelinin 5 yıl hapis cezasına çarptırıldığının belirtildiği kararda, "Sahte videoların içeriği iğrenç ve tarif edilmesi zor." ifadesi kullanıldı.

DEEPFAKE VAKALARI ARTIYOR

Sahte cinsel içerikli görüntülerin paylaşıldığı gruplardan birinin 133 binden fazla üyesi olduğu ve mağdurlarının çoğunun ortaokul, lise öğrencilerinin yanı sıra üniversite öğrencileri, öğretmenler ve hatta askeri personelin de dahil olduğu değerlendiriliyor.

Güney Kore Eğitim Bakanlığı verilerine göre, ocaktan bu yana 186'sı öğrenci, 10'u öğretmen olmak üzere toplam 196 deepfake vakası bildirilirken, bunlardan 179'u polise sevk edildi. Bakanlık konuyla mücadele etmek üzere özel görev gücü oluşturulduğunu açıkladı.

"MAĞDURLARIN ÇOĞU REŞİT DEĞİL"

Güney Kore Devlet Başkanı Yoon Suk Yeol, konuya ilişkin açıklamasında, "Son zamanlarda, belirsiz sayıda insanı hedef alan deepfake videolar sosyal medyada hızla dolaşıma girdi." dedi.

Yoon, "Mağdurlar çoğunlukla reşit değil, görüntüleri yayan kişiler ise gençlerden oluşuyor." şeklinde konuştu. Yoon, yetkililere "dijital cinsel suçların kökünün kazınması için detaylıca soruşturulması" çağrısında bulundu.

Başbakan Han Duck-soo da "sahte cinsel görüntülere verilecek cezanın uyuşturucuyla aynı seviyede olması gerektiğini" söyledi.

GÜNEY KORELİ KADINLAR YILLARDIR MAĞDUR DURUMDA 

Güney Kore'de yıllardır, gizli kameralarla çekilmiş görüntülerin yasa dışı dağıtımı ciddi bir sorun.

Ülkede 2019'da "nth-room" olarak adlandırılan skandalda yine Telegram'daki bir sohbet grubu aracılığıyla birçok cinsel içerikli görüntüleri oluşturulan genç kadınlara şantaj yapıldığı ortaya çıkmıştı. Grubun lideri, 42 yıl hapis cezasına çarptırılmıştı.

Hükümetin bu konuda daha güçlü adımlar atmasını talep eden binlerce Güney Koreli kadın da 2018'de gösteriler düzenlemişti.

Güney Kore polis verilerine göre ise ülkede deepfake vakaları artıyor. 2023'te 180 olan vaka sayısı bu yılın ilk 7 ayında 297'ye ulaştı.

Kaynak: AA

Teknoloji, 2024.08.28 14:58