Emma Watson, Yapay Zekanın Kurbanı Oldu!

Yavaş yavaş hayatımızın her alanında varlığını hissettiren yapay zeka, her vakit yararlı işler için kullanılmıyor. Bunun en net örneklerinden bir tanesi deepfake. Bir şahsa ilişkin imaj ve seslerin istenildiği üzere değiştirilmesine imkan tanıyan teknoloji, bilhassa de ünlü isimlerin taklit manzaralarını oluşturmak için kullanılıyor. 

Yaşanan son gelişmeler, cürüm olarak bile kabul edilmeye başlayan deepfake teknolojisinin değişerek hayatımızın içerisinde kalmaya devam edeceğini gözler önüne seriyor. Çünkü Türkiye’de erişime kapalı olan 4chan isimli platform kullanıcıları, dünyaca ünlü isimlerin seslerini kullanarak uydurma içerikler üretmeye başladılar. Oluşturulan geçersiz içeriklerde, ElevenLabs isimli bir grup tarafından geliştirilen ses klonlama yapay zekasından faydalanılmıştı…

Emma Watson ve Joe Rogan üzere isimlerin uydurma konuşmaları oluşturuldu!

4chan kullanıcılarının maksat aldıkları isimler, dünyaca ünlü oyuncu Emma Watson, ünlü komedyen Joe Rogan ve ABD’de ünlü bir köşe müellifi olan Ben Sharpio idi. Kim oldukları bilinmeyen anonim kullanıcılar, Emma Watson’a Adolf Hitler tarafından kaleme alınan “Kavgam” isimli romandan bir kısım okuturken, Ben Sharpio ise ABD’li politikacı Alexandria Ocasio-Cortez hakkında ırkçı cümleler kurdurmuşlardı. Üstelik düzmece seslendirmeler bunlardan ibaret değildi. Homofobik, transofobik ve şiddet ile ilgili açıklamalar da paylaşılmıştı.

Henüz beta basamakta olan ElevenLabs, mevzuyla ilgili açıklama yaptı!

4chan’deki paylaşımlardan haberdar olan ElevenLabs grubu, şimdi beta etapta olan yapay zeka ile ilgili açıklamada bulundu. Ses klonlamaya yarayan yapay zekaya gösterilen ilgiden dolayı mutlu olunduğunu tabir eden yetkililer, kötüye kullanımların farkında olduklarını ve bununla ilgili yeni güvenlik özellikleri üzerinde çalışacaklarını açıkladılar. Lakin bu çalışmaların ne kadar tesirli olacağı henüz bilinmiyor.

Deepfake teknolojisi, Birleşik Krallık’ta cürüm kabul ediliyor!