Yapay Zekâ ile Düzmece Kimlikler ve Sesler Kullanılarak Hiç Yaşanmamış Olaylar Gerçeğe Dönüştü!

ChatGPT gibi yapay zekâ hizmetleri furyası tam gaz devam ediyor. Yapay zekâ teknolojileri her ne kadar kullanıcılara kolaylık sağlasa da, sahip olduğu gücün getirdiği tehlikelerin pek farkında değiliz.

Bir geliştirici, ChatGPT gibi OpenAI takviyeli bir yapay zekâ makinesini kullanarak “dezenformasyon makinesi” geliştirdi. ‘CounterCloud’ adlı bu projenin tamamlanması yaklaşık olarak 2 ay sürdü ve maliyeti 400 dolardan daha az. Geliştirici, bu makineyi tanıttığında kitlesel propaganda yaratmanın maliyetinin ne kadar ucuz ve kolay olabileceğinin altını çizdi. Makinenin gayesi, uydurma makaleler ve hatta tarihte yaşanmamış olayları büyük bir gerçeklikle yaşanmış üzere göstermek aslında.

Makinenin maksadı yalnızca bununla kalmıyor

Mayıs ayında Sputnik International haber sitesinde, ABD’nin dış siyasetini sert bir halde eleştiren bir dizi tweet yayınlandı. Bu tweetler ‘CounterCloud’ isimli bir hesaptan paylaşıldı ve ABD’nin dış politikataki tavrını eleştiren görüşler ve hatta makalelerden alıntılar içeriyordu. Hatta çeşitli haber siteleri ve sitedeki gazeteciler bile yapay zeka tarafından tasarlandı. Bu dezenformasyon makinesinin geliştiricisi ‘NeaPaw’ kullanıcı ismiyle internette yer edindi ve bir siber güvenlik uzmanı olduğunu tez ediyor.

NeaPaw, YouTube’ta bu projeyi neden ve nasıl oluşturduğunu anlattığı bir görüntü yayınladı.

Yapay zekânın sahip olduğu gücü ve dezenformasyonun nasıl harikulâde yerlere gidebileceğini görmek isteyen NeaPaw, geçersiz haber oluşturmanın aslında ne kadar kolay ve tehlikeli olduğunu belirtiyor. ChatGPT ile zıt görüşteki makaleleri oluşturma sürecini de anlatıyor. Tıpkı vakitte, birebir makalenin farklı usul ve bakış açılarıyla hazırlandığını söylüyor.

Olay yalnızca bundan ibaret değil. Dahası da var…

Daha sonra yapay zekanın en alakalı içeriğe karşılık vermesi için denetleyici bir modül oluşturdu. Bu modül ile sahte makaleleri ve hatta fotoğrafları yorumlayan sahte ses evrakları oluşturdular. Ayrıyeten düzmece gazeteci profilleri ile haberlerin altına farklı yorumlar yazdırdılar. Ayrıyeten, bu dezenformasyon makinesine paylaşılan tweet’leri yine paylaşması ve beğenmesi için çeşitli komutlar verdiler. 

Geliştirici iki ay içinde, günün 24 saati boyunca yalnızca bu propagandayı sürdüren bir sisteme sahip oldu. NeaPaw, elindeki gücün farkında olacak ki, bu sistemi şimdi herkesin erişimine açmadı. Zira bu sistemin kullanılmaya başlanması demek, büyük bir propaganda aracının kitlesel bir tesir yaratacağı gerçeği demek. Ek olarak bunun sonunun nereye varacağı hiçbir biçimde bilinmiyor.

Ancak haberin başlangıcına eklediğimiz görüntüde NeaPaw, bu makinenin nasıl çalıştığını anlatıyor ve işlerin nasıl yürüdüğü konusunda halkı bilinçlendirmenin daha yararlı olacağını söylüyor.

OpenAI şirketinin CEO’su Sam Altman, mevzuyla ilgili kaygısını lisana getiren bir tweet de paylaştı. 

i am nervous about the impact AI is going to have on future elections (at least until everyone gets used to it). personalized 1:1 persuasion, combined with high-quality generated media, is going to be a powerful force.

— Sam Altman (@sama) August 3, 2023