Gemini’ı Kendi Silahıyla Vurdular: Resmen Ters Köşe Oldu!

Araştırmacılar, Google’ın yapay zekâ modeli Gemini’yı kandırmanın değişik bir yolunu keşfetti. Üstelik bunu yaparken Gemini’nin kendi “ince ayar” özelliğini kullandılar. Yani yapay zekâya, adeta kendi silahıyla tuzak kurdular.

Normalde işe yaramayan komut hileleri, bu yolla bir anda tesirli hale geliyor. Yolun ismi ise epeyce eğlenceli: “Fun-Tuning”. Bu yaratıcı yaklaşım, ABD’deki UC San Diego ve Wisconsin Üniversitesi’nden araştırmacılar tarafından geliştirilmiş.

Yapay zekâ kendi verdiği geri bildirimlerle kandırıldı

Yöntemde, etkisiz kalan komut enjeksiyonlarının başına ve sonuna rastgele tabirler eklenerek hücumlar güçlendirildi. Araştırmacılar, “wandel ! ! ! !” ya da “formatted ! ASAP !” üzere tabirlerle çevrelenen saldırı metinlerinin Gemini’nin karşılıklarını manipüle edebildiğini ortaya koydu.

Araştırma grubu, geliştirdikleri tekniğin Gemini 1.5 Flash modelinde %65, Gemini 1.0 Pro modelinde ise %82 oranında muvaffakiyet sağladığını paylaştı. Birebir hücumların farklı Gemini modellerinde de emsal halde işe yaradığına dikkat çekti. Bu başarıda, modelin eğitim sürecinde verdiği geri bildirimlerin direkt kullanılması tesirli oldu.

Google, kelam konusu prosedürle ilgili direkt bir açıklama yapmadı. Şirket, yaptığı genel açıklamada bu çeşit taarruzlara karşı savunma sistemleri geliştirmenin öncelikli mevzular ortasında yer aldığını söz etti. Araştırmacılar ise bu sorunun kolay çözülemeyeceğini lisana getirdi. Zira taarruzun temelinde, Gemini’ın ince ayar özelliğiyle çalışan ve özelleştirilebilirliğini sağlayan yapının yer aldığına dikkat çekti.