Deepfake: Yapay zekanın endişelendiren teknolojisi

Yapay zekanın hem şaşırtan bırakan hem de endişelendiren örneklerinden biri de Deepfake (derin sahte) videoları. Yüz ve ses değiştirme teknolojileriyle gerçeğinden ayırt edilemeyecek sahte içerik üreten bu yeni yazılım ile geleceğimiz etkilenecek.

Teknoloji bir çok yeniliği yaşamımıza katmaya devam ediyor. Yapay zeka uygulamaları ile artık gördüklerinizin gerçekliğini kestirmeniz ve bilmeniz imkansız hale gelebilir. ka, gerçeğin ne olduğu konusundaki algılarımızı ve yargılarımızı da değiştirmeye başladı.

Deepfake videoları şimdilik eğlence uygulaması olarak yaşamımıza girse de, geleceğin en büyük risklerinden biri olarak tarif ediliyor..

Deepfake nasıl çalışıyor?

 

Deepfake, bir görselde bulunan bir kişinin yüzünü bir başkasının vücuduna yerleştirmeyi ve ses kayıtlarını farklılaştırmayı mümkün kılan bir yazılım çeşidi.

Videoların oluşturulması da ise makine öğrenmesi ve yapay zeka altyapısından yararlanılıyor.

Yazılımın Ekstraksiyon adı verilen bölümünde videoda yüzü kullanılacak kişinin dudak hareketleri ve mimikleri hareketleri analiz ediliyor.

ren adı verilen bölümde ise makine öğrenme ile elde edilen bilgileri analizlerle, yapay zekanın yardımıyla yeni bir model oluşturuluyor. Bu dönüşüm işlemi çok uzun sürüyor ve temel olarak ne kadar uzun süre çalışırsa gerçekliğe yakınlığı ve görüntü kalitesi o kadar iyi oluyor.

Üçüncü ve son kısım ise dönüştürmeye değiştirme. Bu kısımda görüntü ve ses modellenen yüz uyumlu hale getiriliyor.

Videolarda kullanılan yüz ve ses değiştirme ile elde etilen sonuçlar, tahminlerin ötesinde başarılı ve gerçeğinden ayırmak neredeyse imkansız hale geliyor.

Nasıl ortaya çıktı?

 

Trthaber tarafından haberleştirilen konuya göre The Week'te yer alan haberden yararlanarake Deepfake'in ilke kaynağını oluşturan çalışmalar, Hollywood'da hayatını kaybeden oyuncuları videoda kullanmak üzere başladı. Oldukça zahmetli ve pahalı bir çalışma olarak başladı.

Ancak teknolojinin hızla gelişmesiyle birlikte ilk uygulama daha amatör versiyonları cep telefonu uygulamalarında yerini aldı.

2017 yılında yapılan Fakeapp uygulamalarıyla, aralarında , Ivanka Trump, Michelle Obama ve Emma Watson'ın da olduğu bazı ünlülerin yüzleri, yetişkin filimlerinde kullanılmasıyla yazılımın karanlık kullanımı ortaya çıktı.

Arkasından Barack Obama ve Donald Trump gibi siyasi isimler, Deepfake videolarda kullanıldı.

Neler yapılıyor?

 

Deepfake videoları dansçının performansına kendi yüzünüzü ekleyebilir ve dans eden kişiyi kendinizmiş gibi gösterebilirsiniz.

Bir ünlünün sesini alıp, o ünlü gibi konuşabilir, hatta en favori filminizin kahramanı dahi olabilirsiniz.

Ancak bu eğlenceli kullanımla birlikte Deepfake ile zarar verecek videolar oluşturmak artık mümkün.

Bazen bir ünlünün, bazen bir siyasinin yüzü, hatta belki de sizin yüzünüz, herhangi bir izin almadan bu teknolojiye kurban gidebilir.

Kendinizi yapmadığınız bir şeyi yaparken görmeniz artık mümkün hale gelen bu teknoloji ile yaşamların olumlu ve olumsuz etkilenmesi mümkünn

Profesyonel çalışmalar gerçeğinden ayırt edilemiyor

 

Amatör çalışmalar videolar gerçeğinden ayırmak kolayken profesyonel çalışmaların gerçeğinden ayırmak için ise yine teknoloji yardımına ihtiyaç duyuluyor. Günlerce yapılan bu profesyonel çalışmaları gerçeğine benzerliği ayıt etmekte zorlanmaya neden oluyor.

 

Dünyanın teknoloji devleri, sahte üretilmiş videoları ortaya çıkaracak uygulamalar hayat geçirmek için kolları sıvadı.

Facebook kendi Deepfake videolarını üreterek bu alanda gerçeği bulacak çalışmalara 10 milyon dolar yatırım yapacağını duyurdu. Çözüm bulacak ekiplere de para ödülü vereceğini de nine bu duyuruda ekledi.

Yapay zeka ile dolandırıcılık artıyor

 

Yapay zeka kullanılarak yapılan dolandırıcılık haberleri duyulmaya başlandı bile.

Dolandırıcılar Yapay zeka ile Almanya merkezli bir şirketin CEO’sunun sesini taklit ederek hesaplarına para transferi yapmayı başardılarç

Pindrop isimli bir siber güvenlik firması, 2013 yılından bu yana ses taklidi ile gerçekleştirilen dılandırıcılıkta % 50 artış olduğunu bildirdi.

Firmaya göre her 638 telefon görüşmesinden 1 tanesinde sentetik olarak oluşturulan ses kullanılıyor.

En fazla korkulan konulardan biri ise seçimlerde bu teknolojinin sonuçları manüpüle edecek şekilde kullanılması ihtimali. Bu endişe şimdiden ABD seçimine damga vurmuş durumda.

Kaynak: TRT Haber, CNN, CSO Online, Techtarget, The Week

 

Bu Yazıyı Paylaşmak İster misiniz ?
E-Bülten