Artık Gördüğümüze de İnanamayacağız: Google’ın Yeni Yapay Zekâ Aracı, Fotoğraflara Enkaz, Uyuşturucu ve Hatta Ceset Ekleyebiliyor!

Google, geçtiğimiz haftalarda yeni telefonları Pixel 9 serisini duyurmuştu. Natürel ki de bu aygıtlar, şirktin en önde olduğu mevzulardan biri olan yapay zekâ özellikleriyle gelmişti. Fotoğraflardaki objeleri istediğiniz şeye dönüştürebilen “Reimagine” özelliği de bunlardan biriydi. Bu araç, Magic Editor fotoğraf özelliklerinin güzelleştirilmiş bir modülü olarak geliyordu.

Şimdi ise Reimagine’in nasıl çalıştığına dair örnekler bizlerle buluştu. Özelliği deneyen The Verge’deki meslektaşlarımız, Reimagine’ın korkutucu yanını gözler önüne serdi.

Reimagine, yapay zekâyla görsellere enkazlardan cesetlere kadar birçok şey eklemeyi sağlıyor

*The Verge

Öncelikle özelliği biraz açalım. Bir fotoğraftaki insan olmayan rastgele bir objeyi seçiyorsunuz akabinde metin komutu yazarak onun yerine ne isterseniz koyabiliyorsunuz. Yani bir fotoğrafı apayrı bir hâle getirmek mümkün oluyor.

Denemelerde bu özelliğin çok başarılı bir formda çalıştığı görüldü. Reimagine aracı, çok ikna edici gerçek üzere görünen yapay zekâyla oluşturulmuş ögeleri görsellere yerleştirebildi. Işığı, gölgesi ve bakış açısı üzere kısımların bile başarılı olması dikkat çekti.

*The Verge

Ancak testler, aracın büyük bir sorunu de beraberinde getirdiğini gösterdi. Testlerde olumsuz ve rahatsız edici ögelerin de rahatça görsellere eklenebildiği görüldü. Fotoğraflara, enkaz, doğal afet, uyuşturucu, sis bombası ve hatta ceset üzere şeyler kolayca koyulabildi.

*The Verge

Tabii ki Google’ın bunlardan kaçınmak için bir muhafaza sistemi var. “Bu fotoğrafa ceset ekle” dediğinizde direkt eklemiyor. Fakat testler, komutlarda biraz yaratıcı olunursa bu şekil ögelerin kolaylıkla eklenebildiğini ortaya koyuyor. Yani müdafaa sistemi pek kâfi değil. Bu da çok büyük bir sorun. Makus maksatlı bireyler, Reimagine’ı sahte görseller oluşturmak, dezenformasyon yaymak için kullanabilir. Gerçeğinden ayırt edilememesi de insanların basitçe kandırılmasına neden olabilir.

Google, güvenlik sistemleri olduğunu lakin birtakım komutların bu sistemleri zorlayabileceğini tabir etti. Bu nedenle de özelliği sürekli geliştirdiklerinin altını çizdi. Ne kadar gelişeceğini vakit gösterecek lakin şu an için çok tehlikeli olduğunu söyleyebiliriz. Eklenen bir cesedi bile fark edememesi, çok vahim sonuçların ortaya çıkabileceğinin bir göstergesi.