Derin Sahtecilik (Deepfake) nedir?

2 Haziran 2021

<Bu yazıda yer alan içerikler derleme olarak hazırlanmıştır.>

Deepfake, mevcut bir görüntü veya videoda yer alan bir kişinin, yapay sinir ağları kullanarak bir başka kişinin görüntüsü ile değiştirildiği bir medya türüdür. Sıklıkla, otomatik kodlayıcılar ve üretken çekişmeli ağlar (GAN’lar) olarak bilinen makine öğrenme tekniklerini kullanarak mevcut medyanın kaynak medya üzerinde birleştirilmesi ve üst üste konması ile üretilirler.

Derin sahtelik teknolojisi (deepfake), bir kişinin yüz ifadelerini ve sesini yapay zeka algoritmaları ile tanımlayarak hiç söylemediği şeyleri söylüyormuş gibi görüntüler ortaya çıkmasını sağlayabilmektedir.“Derin” denmesinin nedeni ise bu görüntülerin gerçekten ayırt edilemeyecek kadar gerçekçi görünmesi ve hissettiriyor olmasıdır.

Bugün deepfake, yapay zeka teknolojisi yardımıyla, dijital bir görüntüyü, birkaç tıkla değiştirip, yüzü, sesi, mimikleri ve konuşması ile ilgili kişilerin kendisinden ayırt edilemeyecek kadar inandırıcı, gerçek dışı videolarını üretebileceğimiz bir teknoloji haline gelmiştir.

Deepfake videolar, yapay zekanın “derin öğrenme” ve “gerçek dışı gerçeklik üretebilme” yeteneğinin bir ürünü olarak karşımıza çıkmaktadır.

Yapay zeka teknolojisi, henüz bir insanı gerçek dünyadan kopyalayamıyor. Ancak insan yüzünü, dijital olarak “ inanılmaz inandırıcılıkta” kopyalayıp, canlandırabiliyor.

Deepfake video oluşturmak isteyen bir kişi, yüzünü başka bir hedef videoya yapıştırmak istediği kişiye ait pek çok görüntüye sahip olması gerekiyor. Kaynak görüntüdeki yüz, derin öğrenme teknolojisi ile eğitilerek hedef videodaki kişinin yüzüne yapıştırılıyor. Ne kadar çok örnek detaya sahip olunursa o kadar çok başarı elde ediliyor.

Bu sayede, hedef videoda konuşan kişinin söylediği şeyleri kaynak videodaki kişi söylüyormuş algısı oluşturuluyor. Ne kadar çok kaynak görüntüye sahip olunursa ve bu görüntüler aracı programlarla ne kadar çok eğitilirse o kadar iyi sonuç alınıyor.

 

Deepfake’in zararları nelerdir?

Yüz değiştirmenin, sahte yüz ifadesi ve konuşma içeriği yaratmanın insanlar tarafından bu kadar çabuk benimsenmesi ve kullanılması aslında bireysel ve toplumsal açıdan bazı önemli tehlikeleri barındırıyor. Her ne kadar piyasadaki çoğu örnekte bir değişikliğin yapıldığı açıkça belirtilse de deepfake teknolojisi kötü niyetli kullanımlara davetiye çıkaracak bir niteliğe sahip. Deepfake’in dolandırıcılık, yanlış beyan ve kötü amaçlı kullanımı tehlike yaratıyor.Her gün gelişmekte olan teknoloji, insan gözüyle sahte olduğu ayırt edilemeyen video içerik üretilerek bireylerin hayatlarını ciddi ölçüde etkileyebilecek bir potansiyele sahip. Bu da hukuki düzenlemelerle bu alana müdahale edilmesinin gerekliliğini tartışmalı hale getiriyor.

İlk olarak, Deepfake’in bireysel düzeyde kötüye kullanım tehditleri vardır. Deepfake siber zorbalık, hakaret ve şantaj için kullanılabilir.

İkinci olarak siyasi içerikli deepfake’ler ile yanlış bilgilerin yayılması kolaylaştırılabilir, siyasi kutuplaşma beslenebilir veya politikacılar hiç söylemedikleri şeyleri söylemiş gibi gösterilip zan altında bırakılabilir. Deepfake videolar politikacıların söylemediği şeyleri söylemiş gibi gösterebildiği için, seçimlerde kitleleri manipüle etmeye çok müsait siyasi bir saldırı aracıdır. Böyle durumlarda bu içeriklerin yayılmasının nasıl engelleneceği ise belirsizdir. Düzenleyici otoritelere geniş kontrol ve gözetim yetkisi verilmesi aşırı sansüre yol açabileceğinden temel hak ve özgürlüklerin ihlali gibi değerlendirilebilir. Diğer yandan sosyal medya üzerinden yayılan yanlış haberlerin boyutu ve etkisi düşünüldüğünde görüntülü bir şekilde bunun yapılmasının toplumsal bilinç açısından ne kadar zararlı olabileceği görülebilmektedir.

Siber zorbalığa ve seçimlere yönelik tehlikesine ek olarak, deepfake aynı zamanda pazarın manipüle edilmesine yönelik saldırıların artmasında da önemli bir potansiyele sahiptir.

Adalet Sistemi de, deepfake tehlikesiyle büyük zararlar görebilir. Sahte kanıtlar mahkemelerde kullanılarak, dava süreçleri manipüle edilebilir ve kişiler bu şekilde işlemedikleri suçlarla suçlanabilir. Böylece masum olanlar haksız biçimde hapse girebilir. Öte yandan, gerçek suçlular sahte kanıtlara dayanarak serbest bırakılabilirler ve cezadan kurtulabilirler. Deepfake’in yarattığı bu ürkütücü olasılıklar adalete duyulan güvene karşı da büyük bir tehdit oluşturmaktadır.

Deepfake teknolojisinin neden olduğu diğer bir sorun da dolandırıcılık. Deepfake teknolojisi ile geleneksel telefon dolandırıcılıklarından farklı olarak, Deepfake ile dolandırıcılar, düşük maliyetli ve yüksek kalitede bir kişinin sesini ve konuşma tarzını oluşturabiliyor ve mağdurların gerçek ile sahteyi ayırt etmesini zorlaştırabiliyor.

 

Deepfake zararlarına karşı alınabilecek önlemler nelerdir?

Deepfake’ler anlık tercüme yapma ya da insanlara destek sağlama gibi hukuka uygun amaçlar için de kullanılabilirler ancak yukarıda açıklanan zararlı kullanım ihtimalleri yararlı kullanım ihtimalini gölgede bırakmaktadır ve deepfake üretimi ile kullanımının hukuki düzenlemelerle kontrol edilmesinin gerektiği sonucuna ulaşılmasını kolaylaştırmaktadır.

Ancak deepfake üretim ve kullanımını regüle etmek de çok kolay bir faaliyet olmayacaktır. Teknik açıdan video içeriklerin metaverileri üzerinden orijinal içerikte bir değişiklik yapılıp yapılmadığının anlaşılması mümkündür. Ancak bu kontrolün şu aşamada herkes tarafından değil sadece uzmanlar tarafından yapılabilmektedir. Bir içeriğin deepfake olup olmadığını tespit eden yazılımların geliştirilmesi ve bunun yaygın kullanıma gerekiyorsa devlet destek ve eğitimleriyle sunulması deepfake’lerin oluşturacağı zararı azaltmak yolunda işlevsel önlemler olarak karşımıza çıkabilir.

Ayrıca deepfake’lerin çoğunlukla merkezi çevrimiçi içerik platformları aracılığıyla yayılacağı düşünüldüğünde bunların birer kontrol noktası olarak benimsenmesi ve deep fake içerik tespitinin buralarda yapılarak yayılmasının engellenmesi de olası bir çözüm olabilir. Nihayet deep fake gibi insan algısıyla oynayan bir yapının zararlarıyla mücadelede en önemli araç toplumun bu konuda eğitilmesi olacaktır.

Diğer yandan Facebook, Microsoft, ve Amazon deepfake tehlikesine çözüm bulmaya çalışan, siber güvenlik üreticisi şirketlere ödüllü yarışma düzenlemektedir.

SEMAHAT GÖKALP

BAU DEGS ARAŞTIRMACISI

 

DİĞER YAZILAR

SON 24 SAATTE MEDYADA BAU DEGS
SON 24 SAATTE MEDYADA BAU DEGS
12 Haziran 2021

11 HAZİRAN TARİHLİ YERLİ VE YABANCI BASINDA BAHÇEŞEHİR ÜNİVERSİTESİ DENİZCİLİK VE GLOBAL STRATEJİLER MERKEZİNE İLİŞKİN HABERLERİN YER ALDIĞI MEDYA...

Akdeniz’de Ulusal ve Küresel Stratejiler Sempozyumu
Akdeniz’de Ulusal ve Küresel Stratejiler Sempozyumu
11 Haziran 2021

İstanbul Üniversitesi ile birlikte 12-13 Haziran 2021’de düzenlediğimiz “Akdeniz’de Ulusal ve Küresel Stratejiler” Sempozyumuna aşağıdaki seçkin akademisyenlerimiz tebliğlerde bulunacaktır....

SON 24 SAATTE MEDYADA BAU DEGS
SON 24 SAATTE MEDYADA BAU DEGS
11 Haziran 2021

10 HAZİRAN TARİHLİ YERLİ VE YABANCI BASINDA BAHÇEŞEHİR ÜNİVERSİTESİ DENİZCİLİK VE GLOBAL STRATEJİLER MERKEZİNE İLİŞKİN HABERLERİN YER ALDIĞI MEDYA...