Telegram’da “deepfake çıplak fotoğraf oluşturucular” istilası

Raporda, bu yeni “çıplaklık AI botlarının” şimdiden ayda 4 milyondan fazla kullanıcıya ulaştığı ve sorunun muhtemelen daha da kötüleşeceği belirtiliyor. Bahsi geçen sohbet robotları, AI botlarının bu tıp makûs niyetli hedefler için kullanıldığını gördüğümüz birinci sefer değil. Ayrıyeten, kullanıcıların ChatGPT ve öbür tanınan sohbet robotlarını berbata kullanmasıyla ilgili meseleler da yaşandı. Fakat, OpenAI ve başka şirketler bu meseleleri muteber bir formda düzelterek, içeriğin daha uygun kalmasına yardımcı olmak için güvenlik katmanları oluşturdu.

Yine de, kullanıcıların bir fotoğraf ve hatta bir komut yükleyerek neredeyse herkesin çıplak fotoğraflarını oluşturmasına müsaade veren bu deepfake botları bilhassa Telegram üzerinde süratle artıyor ve Wired’ın bildirdiğine nazaran bunlardan şu anda en az 50 tane bulunuyor. AI şu andaki kadar gelişmeden evvel bile deepfake’ler büyük problemler yaratıyordu. Örneğin Şubat ayında, bir AI dolandırıcısının bir konferans görüşmesinde 25 milyon dolar çalmak için deepfake kullandığı biliniyor.

Ne yazık ki, bu çıplaklık AI botlarını durdurmak neredeyse imkansız üzere gözüküyor. Biri bir biçimde engellendiğinde, süratli bir biçimde birkaç tanesi daha onun yerini alıyor. Bu kadar süratli bir biçimde tekrar ortaya çıkabilmeleri, ortadan kaldırılmalarını neredeyse imkansız hale getirmenin yanı sıra, muhtemelen durumun daha da kötüleşeceği manasına geliyor.