Google, yapay zeka ile üretilen görsellerin anlaşılması için görünmez bir filigran kullanmaya başladı

Google, yapay zeka tarafından oluşturulan görsellerde şeffaflığa yönelik bir adım daha attı. Google DeepMind, yapay zeka ile üretilen sanata yönelik bir filigran / tanımlama aracı olan SynthID’yi duyurdu.

Şirket, teknolojinin insan gözüyle görülemeyen dijital bir filigranı direkt manzaranın piksellerine yerleştirdiğini söylüyor. SynthID, Google’ın bulut tabanlı yapay zeka araçları paketinde bulunan sanat üreticisi Imagen’i kullanarak başlangıçta “sınırlı sayıda” müşteriye sunuluyor.

Üretken yapay zeka sanatı ilgili pek çok sorun bulunsa da, deepfake yaratma potansiyeli en büyük sorunlardan biri olarak öne çıkıyor. Örneğin, Papa’nın toplumsal medyada viral hale gelen yeni ve tanınan hip-hop kıyafeti (MidJourney ile oluşturulan bir yapay zeka görüntüsü), üretken araçlar geliştikçe neyin daha sıradan hale gelebileceğinin erken bir örneğiydi. Yapay zeka tarafından üretilen sanatı kullanan siyasi reklamlar üzere bir uygulamanın, Twitter’da dolaşan komik bir görselden çok daha fazla ziyan verebileceği rahatlıkla söylenebilir. İçeriğin yapay zeka tarafından oluşturulduğunu açıkça belirtmek için görsel ve işitsel içeriğe filigran eklemek, yedi yapay zeka şirketinin Temmuz ayında Beyaz Saray’da yapılan bir toplantı sonrasında geliştirmeyi kabul ettiği istekli taahhütlerden biriydi. Google bu türlü bir sistemi başlatan şirketlerden birincisi oldu.

Google, SynthID’nin teknik uygulamasıyla ilgili çok fazla detay vermiyor, lakin filigranın kolay düzenleme teknikleriyle kolaylıkla kaldırılamayacağını söylüyor. Şirket, DeepMind blog yazısında “Görüntü manipülasyonlarında algılanamazlık ve sağlamlık ortasında yanlışsız dengeyi bulmak zordur” diye yazdı. DeepMind’ın SynthID proje önderleri Sven Gowal ve Pushmeet Kohli “SynthID’yi imaj kalitesinden ödün vermeyecek ve filtre ekleme, renkleri değiştirme ve çeşitli kayıplı sıkıştırma şemalarıyla kaydetme (en yaygın olarak JPEG’ler için kullanılır) üzere değişikliklerden sonra bile filigranın algılanabilir kalmasına müsaade verecek halde tasarladık” diyor.

SynthID’nin tanımlama kısmı, imgeyi üç dijital filigran itimat seviyesine nazaran derecelendiriyor: Algılanan, algılanmayan ve muhtemelen algılanan. Araç, imgenin piksellerine gömülü olduğundan ötürü Google, sisteminin, Adobe’nin şu anda açık beta sürümünde bulunan Photoshop üretken özellikleriyle kullandığı üzere meta bilgi tabanlı yaklaşımlarla birlikte çalışabileceğini söylüyor.

SynthID, biri filigranlama için, oburu tanımlama için olmak üzere bir çift derin öğrenme modeli içeriyor. Google, ikilinin farklı görseller üzerinde eğitim aldığını ve bunun sonucunda birleşik bir makine tahsili modeli ortaya çıktığını söylüyor. Gowal ve Kohli, “Birleşik model, filigranlı içeriğin yanlışsız biçimde tanımlanması ve filigranı yepyeni içerikle görsel olarak hizalayarak algılanamazlığın uygunlaştırılması de dahil olmak üzere bir dizi amaç doğrultusunda optimize edildi” diye yazıyor.

Google bunun harika bir tahlil olmadığını kabul ediyor ve “aşırı manzara manipülasyonlarına karşı kusursuz olmadığını” ekliyor. Fakat filigranı “insanların ve kuruluşların yapay zeka tarafından oluşturulan içerikle sorumlu bir biçimde çalışmasına imkan tanıyan umut verici bir teknik yaklaşım” olarak tanımlıyor. Şirket, aracın metin, görüntü ve ses oluşturanlar da dahil olmak üzere başka AI modellerine genişletilebileceğini söylüyor.