ChatGPT Arama Motorunda Güvenlik Alarmı: Manipülasyona Karşı Açık Olduğu Ortaya Çıktı

Bu ay kullanıma sunulan yapay zekâ dayanaklı arama motoru ChatGPT Arama’nın, aldatıcı özetler oluşturabilecek halde manipüle edilebildiği ortaya çıktı. 

The Guardian tarafından yapılan bir araştırmada, web sitelerine eklenen zımnî metinler sayesinde, olumsuz yorumların göz arkası edilip “tamamen olumlu” özetlerin sunulduğu tespit edildi.

ChatGPT Arama manipüle edilebiliyor

ChatGPT Arama, bir web sayfasının eser incelemeleri üzere içerikleri özetleyerek taramayı hızlandırmayı amaçlıyor. Lakin The Guardian’ın araştırmasına nazaran, bâtın metin ataklarıyla ChatGPT Arama yanıltıcı özetler ve ziyanlı kodlar üretebiliyor. Bu cins taarruzlar büyük lisan modelleri için bilinen bir risk olmakla birlikte birinci defa canlı bir yapay zekâ dayanaklı arama motorunda tespit edildi.

Google, arama motoru alanındaki tecrübesi sayesinde emsal meselelerle daha aktif bir biçimde başa çıkabiliyor. OpenAI ise yaşanan bu olay hakkında yorum yapmaktan kaçındı lakin berbat niyetli web sitelerini engellemek için çeşitli metotlar kullandığını ve sistemlerini daima olarak geliştirdiğini belirtti.