Apple’ın yapay zekası Apple Intelligence, bu kez fena “çuvalladı”

Apple’ın yapay zeka servisi Apple Intelligence, İngiltere’de de kullanılmaya başlandı. Lakin daha birinci günden haberleri yanlış özetlemeye başlayınca, BBC’nin reaksiyonunu çekti.

Yapay zeka, gündemdeki haberleri okuyup derleyerek kullanıcıları için özet bir bildirim gönderiyor. Fakat BBC’nin yaptığı ve bir saldırganın sıhhat kurumuna saldırdığının aktarıldığı haberde, saldırganın kendini vurup intihar ettiği üzere, büsbütün yanlış bir yorum da yapay zekanın özetinde yer aldı. Ve durumböyle olunca, işler de değişti.

Yapay zekanın, haberin içinde geçen, “o süreç beni öldürecekti” cümlesini alarak bunun bir intihar olduğuna karar verdiği ve ondan haber özetleri bekleyen kullanıcılara, “saldırganın kendini vurarak öldürdüğü” halinde bilgi verdiği anlaşıldı.

BBC bu durumu Apple’a bildirerek haber özetinin değiştirilmesini istese de, aslında yapay zekanın kendi kendine gerçek dışı yorumlar üreterek dünya çapında infial yaratabilecek bir potansiyeli olduğu da bu örnekle bir kere daha ortaya çıkmış oldu.

Yapay zekaya güvenmek büyük bir yanılgı mı?

Örneğin yarın diğer bir haber özetinde, “saldırganlar parlamentoya baskın yaparak bakanları öldürdü” üzere bir haber milyonlarca iPhone kullanıcısına gönderilse, ansızın tüm piyasalarda çöküşler yaşanabilir. Yahut “genç bir kız sokakta yürürken taarruza uğrayıp öldürüldü” üzere bir haber uydursa, insanların sokaklara çıkıp birbirine saldırmasına yol açabilir.

Dolayısıyla bu gelişme, günlük hayatımızı yapay zekaya teslim etmenin ne kadar büyük bir kusur olabileceğini bir defa daha gösteriyor. Bu örneği kâfi bulmayanlar, yapay zeka denetiminde otonom olarak hareket ederken kaza yapan Tesla arabalarında yaşanan vefatları yahut maddi ziyanları da incelemek isteyebilirler.