Sarah McDermott ve Jess Davies, BBC News
BBC Kate Isaacs Kate, bir akşam Twitter hesabına bakarken bildirimlerinde rahatsız edici bir görüntüye denk geldi.
O anı birinci kez açık bir halde anlatan Kate, “Birden paniğe kapıldım. Biri yüzümü alıp bir porno görüntüsüne yapıştırmıştı” diyor.
Kate, deepfake teknolojisinin mağduru olmuştu.
Biri yapay zeka teknolojisiyle onun yüzünü bir porno yıldızının yüzünün üstüne yapıştırmıştı.
Kate, görüntünün daha evvel televizyonda gösterilen röportajlarından görseller alınarak yapıldığını düşünüyor.
İnsanların isteği olmadan yapılan porno görüntülerine karşı kampanyalar yürüten Kate, görüntüde seks yapıyormuş üzere gösteriliyordu.
“İnanamadım. Yanlışsız dürüst düşünemez oldum” diyor Kate ve ekliyor:
“Çok müthişti. Görüntünün her yerde paylaşılacağını düşündüm.”
Geçmişte deepfake görüntülerinde ünlülerin ve siyasetçilerin yüzleri kullanılırdı.
Videolar her vakit porno görüntüsü da olmuyordu, bazen güldürü görüntüleri yapılıyordu.
Ancak son yıllarda bu değişti. Sibergüvenlik şirketi Deeptrace’e nazaran deepfake görüntülerinin yüzde 96’sı pornografik görüntülerden oluşuyor.
İntikam almak için yapılan pornografik görüntülerde da olduğu üzere deepfake teknolojisiyle yapılan sinemalar, manzaraya dayalı cinsel istismar olarak tanımlanıyor.
#SENİNPORNONDEĞİL
30 yaşındaki Kate, 2019 yılında #NotYourPorn (Senin Pornon Değil) kampanyasını başlattı.
Bir yıl sonra Kate’in kampanyaları sayesinde “yetişkin cümbüş sitesi” Pornhub, doğrulanmamış kullanıcılar tarafından yüklenen tüm görüntülerini kaldırmak zorunda kaldı. Bu, sitedeki görüntülerin neredeyse tümüydü.
Kate, kendisine karşı deepfake teknolojisini kullanan kişinin bu kampanyaya cevaben bu türlü bir şey yaptığını düşünüyor fakat bu kişinin kim olduğuna dair hiçbir fikri yok.
Videonun çok inandırıcı bir biçimde yapıldığını söyleyen Kate, insanların düzmece olduğunu anlamayacağından korktuğunu paylaşıyor.
Kate, bir mühlet sonra insanların görüntünün altına tehditkar yorumlar bırakmaya başladığını, bazısının Kate’i meskenine kadar takip edeceğini, ona tecavüz edeceğini, taarruz anını sinemaya çekeceğini ve internette yayımlayacağını söylediğini anlatıyor.
Kate, mesken ve iş adresinin bile görüntünün altına eklendiğini söylüyor.
“Paranoyak oldum. Kim benim adresimi biliyordu ki Sanki tanıdığım birisi mi diye düşünmeye başladım” diyen Kate kelamlarını şöyle sürdürüyor:
“Gerçekten tehlikede olduğumu düşündüm.”
Kate’in bir iş arkadaşının görüntüyü Twitter yetkililerine bildirmesiyle görüntü toplumsal medya platformundan kaldırıldı.
Ancak bir deepfake görüntüsü internette paylaşıldığında onu büsbütün yok etmek çok sıkıntı.
Uzmanlar, deepfake olayına maruz kalanların ispat toplayıp bunu bir an evvel polise bildirmesini öneriyor.
DEEPFAKE PİYASASI
Deepfake görüntülerin imali için çevrim içi forumlarda önemli bir talep var.
İnsanlar, eşlerinin, komşularının, meslektaşlarının ve ailelerinin bile deepfake görüntülerde kullanılmasını talep ediyor.
İngiltere’de yaşayan ve BBC’ye gerçek ismini vermeyen bir deepfake görüntü imalcisi, birinci başta ünlülerin görüntülerini yaparak başladığını anlatıyor.
Görkem ismini kullanan üretimci, insanların bu görüntüler sayesinde “daha evvel mümkün olmayan bir biçimde fantezilerini tatmin ettiğini” söylüyor. Daha sonra cazip bulduğu bayanların ve iş arkadaşlarının görüntülerini yapmaya başladığı anlatıyor:
“Biri evliydi oburunun de alakası vardı. Bu bayanların deepake görüntülerini yaptıktan sonra ofise gitmek tuhaf bir histi lakin hiçbir şey olmamış üzere davrandım ve sinirlerime hakim oldum.”
Hobi olarak yaptığı bu işten para kazanabileceğini anlayan Görkem bir mühlet sonra internet üzerinden sipariş almaya başladığını anlatıyor.
Görkem, bayanların toplumsal medya hesaplarından fotoğraflar toplamaya başladığını, bir kezinde Zoom görüşmesinden aldığı manzaralarla bile görüntü yaptığını söylüyor:
“Kadınların direkt kameraya baktığı manzaralar benim için çok yararlı. Algoritma böylelikle bu manzaraları kullanarak onların yüzünü kullanabiliyor.”
Görkem, “bazı kadınların” deepfake sürecinden ruhsal olarak olumsuz etkilenebileceğini kabul etse de genel olarak bayanları nesnelleştirme aksiyonunun ziyanlarını çok umursamıyor.
Görkem, “Bu ben değilim, geçersiz bir görüntü deyip hayatlarına devam edebilirler. Ahlaki açıdan beni durduracak hiçbir şey olduğunu düşünmüyorum” diyor ve devam ediyor:
“Bir kuruldan para kazanacaksam bunu yaparım, düşünmeme bile gerek yok.”
Deepfake görüntülerinin standardı yapımcının tecrübesi ve teknolojiye nazaran değişebiliyor.
Ancak dünyanın en büyük deepfake porno sitelerinden birini işleten bir diğer adam, artık görüntülerde görsellerin manipüle edilip edilmediğini anlamanın çok güç olduğunu söylüyor. ABD’de yaşayan bu adam, yaklaşık 20 bin görüntünün yüklü olduğu internet sitesini ayda 13 milyon kişinin ziyaret ettiğini söylüyor.