Herkesin Kullandığı Lensa AI, Bayanları Objeleştiriyor

Önemli bir gelişme kaydeden yapay zekâ teknolojileri, son vakitlerde önemli formda popülerleşti. DALL-E, Midjourney üzere sistemlerle oluşturulan eserler, internet ortamlarını adeta esir almış durumda. Bununla birlikte insanların avatarlarını oluşturan uygulamalarda da şu sıralarda bir patlama yaşanıyor ve hangi platformda gezersek gezelim yapay zekâ takviyesiyle ortaya çıkan bu görselleri görüyoruz.

Prisma Labs tarafından oluşturulan Lensa AI da bunlardan biri. Muhakkak fiyatlar karşılığında kullanılabilen bu uygulama, ‘Magic Avatars’ yani ‘Sihirli Avatarlar’ olarak isimlendirilen bir özelliğe sahip. Bu, kullanıcıların nitekim de sihirli olarak nitelendirilebilecek avatarlarını oluşturmasını sağlıyor. Fakat bu durum, kimi meselelerin da ortaya çıkmasına neden olarak yapay zekânın bir sorununu de bizlere gösteriyor. Gelin bu bahse bir göz atalım.

Öncelikle nedir bu Lensa AI? Nasıl çalışıyor?

Lensa AI, bahsettiğimiz üzere Prisma Labs tarafından oluşturulan bir uygulama. Son vakitlerde uygulama mağazalarında tepede yer alan Lensa, aslında 2018’den beri var. Fakat, bu ayın başlarında sunulan ‘Sihirli Avatarlar’ özelliği tanınan olmasını sağladı. Türkiye’de 88 TL’den başlayan fiyatlarla kullanılabilen yapay zekâ dayanaklı bu bilhassa birlikte eklediğiniz fotoğraflar, farklı temalardan (fütüristik yahut anime karakterlerini andıran görünümler gibi) eşsiz avatarlara dönüştürülebiliyor.

Lensa, internetteki yapıtlardan oluşan bir bilgi tabanından yararlanan açık kaynaklı bir yapay zekâ derin öğrenme modeli olan Stable Diffusion’ı kullanıyor. Bu veritabanı, LAION-5B olarak isimlendiriliyor ve CLIP isimli hudut ağı tarafından filtrelenen 5,85 milyar metin-görüntü çiftini kullanıyor. 2022 yılında piyasaya sürülen metinden görsel oluşturan derin öğrenme modeli Stable Diffusion’ın geçtiğimiz ay yeni bir sürümü de yayınlanmıştı.

Lensa AI hakkındaki öteki ayrıntılar hakkında ve nasıl kullanılabileceği konusunda bilgi almak istiyorsanız aşağıdaki içeriğimize göz atabilirsiniz;

Lensa AI’ın kadınları objeleştiren avatarlar oluşturduğu söyleniyor

Yapay zekâ sistemleri her ne kadar gelişmiş olsa da hala kimi sıkıntılara sahip. Metinden görsele çeviren yapay zekâların elleri ve parmakları oluşturmada sorun yaşaması buna en âlâ örnek olabilir. Fakat Polygon’un aktardığına Lensa’da durum biraz daha farklı.

Son vakitlerde gelen bilgiler, Lensa AI’ın bayanları cinselleştirirdiğini ve birtakım ırkçı sonuçlar çıkardığını ortaya koydu. Toplumsal medyadaki birçok kullanıcı, uygulamada bayanlara büyük göğüslerin ve dekoltelerin eklendiğini söylerken o denli bir talep bulunmamasına karşın çıplak görsellerin bile oluşturulduğunu bildirdi.

Kaliforniya Üniversitesi’nden Olivia Snow da Wired’da kaleme aldığı bir yazıda, kendi çocukluğundan fotoğraflar eklediğinde bile uygulamanın onu cinsel obje olarak lanse eden görseller ortaya çıkardığını aktardı. Uygulamanın sahiplerine bu bahis hakkında soru yöneltildiğinde ise takım, Snow’un kullanım şartlarını kasıtlı olarak ihlal ettiğini söz etti. Lensa’nın siyasetleri, çıplak fotoğrafları yasaklarken çocukların görsellerinin kullanılmasını da engelliyor. Tıpkı vakitte kullanıcıların 18 yaşının üstünde olduğunu da beyan etmesi gerekiyor.

Kullanıcılara nazaran ırkçı sonuçlar ve çıplaklık içeren avatarlar bile var

Tried out the Lensa AI app and fed 20 photos of myself, and I have to say it really struggles with Asian faces. My results were skewed to be more East Asian and I’m absolutely not impressed. pic.twitter.com/WnyLKXQT8K

— Anisa Sanusi 🔜 BAFTA Game Awards (@studioanisa) December 3, 2022

Bunlara ek olarak uygulamanın ırkçı stereotiplere de avatarlarda yer verdiği söyleniyor. Örneğin üstte bir kullanıcının kendi fotoğraflarını kullanarak oluşturduğu imgelerde, yapay zekânın Asyalı beşerler konusunda zorlandığı görülebiliyor.

Bunun dışında Asyalı kadınların fetişize edildiği de bildiriliyor. MIT Technology Review’da yazan Melissa Heikkilä isimli Asyalı bir gazeteci, Lensa uygulamasıyla yaşadıklarını aktardı. Buna nazaran kendi fotoğraflarından oluşturulan avatarlarda yüksek ölçüde çıplaklığa yer verildi. Gazeteci, öbür iş arkadaşlarının ise daha az bu usul bir durumla karşılaştığını belirtti.

Ayrıca yakın vakitte bu yapay zekânın çıplaklık içeren fotoğraflar oluşturmak için kandırılabileceği de ortaya çıktı. TechCrunch’ın paylaştığı bir rapor, kullanıcıların kolay bir halde uygulamada çıplaklık içeren fotoğrafları oluşturabildiğini, hatta bunların ünlülerin görselleri ile yapılabildiğini gösterdi. 13 Aralık’ta yeni özellikler getiren Prisma Labs, güvenlik kaygılarına yol açan avatarların daha az sıklıkla görülmesini sağlayacaklarını tabir etti.

“Yapay zekâ, toplumumuzun bir yansıması”

Lensa’da yaşananlar, hala yapay zekânın önünde uzun bir yol olduğunu ortaya koyuyor. Bilindiği üzere daha evvel de birçok kere bu sistemlerde kimi olumsuz durumlar oluşmuştu. Microsoft, geçtiğimiz yıllarda Tay isimli yapay zekâsını ırkçı ve bayan düşmanı yorumlar nedeniyle kapatmıştı. Yakın vakitte Meta da bir lisan modelini misal nedenlerden kapatmıştı.

Haziran ayında yapılan bir araştırma ise Lensa’da gördüğümüz CLIP ağı tarafından eğitilen sistemlerin cinsiyet ve ırk konusunda birtakım stereotiplere neden olduğunu ortaya koydu. Buna ek olarak bayanları ve beyaz olmayan insanları tanıma olasılıklarının da düşük olmasına vurgu yaptı.

Lensa da dahil yapay zekâ sistemlerinin bu meseleyle nasıl başa çıkacağını ilerleyen vakitlerde göreceğiz. Uygulamanın sahibi Prisma Labs de yaptığı açıklamalarda, Stable Diffusion’ın internetteki filtrelenmemiş data üzerinde çalıştığını vurgulayarak, ne kendilerinin ne de Stable AI’ın (Stable Diffusion’ın yaratıcısı) bu hususta bir şey yapamayacaklarını söylüyor. Ayrıyeten bilgilerin insanlığın mevcut önyargılarını modele tanıttığını söyleyerek yapay zekânın toplumumuza bir ayna tuttuğunu da ekliyor.