Google, yapay zekasının neden “saçmaladığını” böyle açıkladı

Google, I/O 2024 geliştirici konferansında “Arama için Yapay Zeka Genel Bakışları” (AI Overviews for Search) özelliğini duyurdu. Bir kullanıcı Google Arama’da karmaşık bir sorgu arattığında, bu özellik birden fazla çevrimiçi kaynaktan bilgi alarak arama sonuçlarının üstünde bir özet görüntülüyor.

Ancak Yapay Zeka Genel Bakışları, sunduğu sonuçlarda bazen tuhaf ve hatta ziyanlı cevaplar önermesiyle bir arada tenkitlere yol açıyor. Paylaşılan birtakım ekran manzaralarına nazaran Yapay Zeka Genel Bakışları, inanılmaz bir formda kullanıcıların pizzaya peynir yapıştırmak için tutkal eklemesi ve böbrek taşlarını düşürmek için idrar içmesi gerektiğini önerdi.

Şimdiyse Google, bir blog yazısında bu durumu düzeltmek için neler yaptığını, yapay zeka takviyeli özelliğin nasıl çalıştığını ve kullanıcı raporları gelmeye başladıktan sonra gerçekleştirdiği süreçleri açıkladı. Şirket, Yapay Zeka Genel Bakışlarının “basit bir halde eğitim datalarına dayalı bir çıktı üretmediğini” ve AI dayanaklı sohbet robotlarından ve başka LLM eserlerinden farklı çalıştığını söyledi.

Yapay Zeka Genel Bakışları, çalışma biçimi nedeniyle kendi başına bir şeyler uydurmuyor yahut “halüsinasyon yaratmıyor.” Fakat Google, Yapay Zeka Genel Bakışlarının “sorguları yanlış yorumlayarak, web’deki lisanın ince detaylarını yanlış yorumlayarak yahut çok sayıda güzel bilginin mevcut olmaması” nedeniyle karışık sonuçlar verebileceğini söylüyor.

Google, bu arama sonuçlarının olağan Googla Arama dizinlerindeki en uygun web sitelerinden alındığını ve başka Arama özelliklerinin de bu problemlere sahip olduğunu belirtiyor. Şirket, Yapay Zeka Genel Bakışlarının doğruluk oranının, tekrar AI tarafından desteklenen öne çıkan bilgilerle “eşit” olduğunu söylüyor.

Ayrıca Google, internette ortaya çıkan tuhaf sonuçlardan bahsederken, bunların hepsinin yanlışsız olmadığını ve “çok sayıda geçersiz ekran imajının geniş çapta paylaşıldığını” da sav etti. Bilhassa köpekleri araç içinde bırakmak, gebeyken sigara içmek yahut depresyon üzere mevzuları örnek veren Google, Yapay Zeka Genel Bakışlarının asla paylaşılan bu sonuçları göstermediğini söyleyerek bu ekran imajlarıyla karşılaşanları denetim etmek için kendi aramalarını yapmaya çağırdı.

Yine de Google, Yapay Zeka Genel Bakışlarının tartışma forumlarından bilgi alarak “alaycı yahut dalga geçen içerikleri öne çıkardığını” kabul ediyor. Şirket, “Forumlar ekseriyetle özgün, birinci elden bilgi için olağanüstü bir kaynaktır, lakin birtakım durumlarda peynirin pizzaya yapışmasını sağlamak için yapıştırıcı kullanmak üzere pek de faydalı olmayan tavsiyelere yol açabilir” diyor.

Şirket, sisteminde bir düzineden fazla teknik güzelleştirme yaptığını ve yanlışsız olmayan kalıpları belirlediğini söylüyor.