Google’ın yapay zekası, dosyalarımızı iznimiz olmadan tarıyor mu?

Google’ın Gemini AI’si, Google Drive’da barındırılan PDF belgelerini faal müsaade yahut teşebbüs olmadan taramakla suçlanıyor ve bu, AI güvenliği ve zımnilik kaygıları hakkında yeni bir tartışmayı ateşledi. Yapay Zeka Yönetişimi Kıdemli Danışmanı Kevin Bankson, özel ve bâtın bir vergi beyannamesinde otomatik olarak oluşturulan yapay zeka özetiyle ilgili tasalarını X’te paylaştı.

Bankston paylaşımında, Gemini AI’nin özel dokümanları müsaadesiz okumasıyla ilgili tecrübesini ve akabinde bulut depolama platformundaki fonksiyonelliği devre dışı bırakmayla ilgili meseleleri detaylı olarak anlattı. Bankston, özelliği devre dışı bırakma teşebbüslerine karşın Gemini’nin Google Drive’da çalışmaya devam ettiğini tespit etti ve bu durum, Google’ın kullanıcı datalarını ve kapalılık ayarlarını nasıl ele aldığıyla ilgili soruları gündeme getirdi.

Just pulled up my tax return in @Google Docs–and unbidden, Gemini summarized it. So…Gemini is automatically ingesting even the private docs I open in Google Docs? WTF, guys. I didn't ask for this. Now I have to go find new settings I was never told about to turn this crap off.

— Kevin Bankston (@KevinBankston) July 10, 2024

Bankston, Gemini’nin entegrasyonunu devre dışı bırakmak için hakikat denetimleri bulamayınca, Google’ın yapay zeka sohbet robotundan ayarları tam olarak belirlemesini iki kere istedi. İkinci, daha detaylı bir cevap da istediği sonucu vermedi: “Gemini, denetim panelimde Uygulamalar ve hizmetlerde *değil* (1. seçenek) ve Gemini sayfasının (2. seçenek) sağ üst köşesinde bir profil fotoğrafım yoktu.” Bankston, diğer bir X kullanıcısının yardımıyla, esasen devre dışı olan denetimin ya arızalı bir denetimi vurguladığını ya da diğer ayarların diğer bir yerde gizlendiğini gösterdiğini buldu.

Ancak evvelki Google dokümanları, şirketin Google Workspace bilgilerini üretken yapay zeka hizmetlerini eğitmek yahut güzelleştirmek ya da maksatlı reklamları beslemek için kullanmayacağını söylüyordu. Bankston, Google Workspace Labs’e evvelki iştirakinin Gemini’nin davranışını etkilemiş olabileceğini öne sürüyor. Şayet bir kullanıcı artık üretken yapay zeka özetlerine erişmek istemiyorsa, PDF’ler için Google Drive’daki Gemini yan paneli kapatılabilir.

Google, kullanıcı bilgilerini inançlı ve emniyetli bir formda işlemeyi vaat etse de, yapay zeka gelişmeye devam ederken ve her gün kullandığımız eserlere daha derinlemesine yerleşirken bu durum, müsaade ve kullanıcı denetiminin ehemmiyetini bir kere daha doğruluyor.