Yapay zeka, şimdi de zehirli mantar pişirme tavsiyesi verdi

Meta’nın “FungiFriend” (Mantar Dostu) isimli sohbet robotu tanınan bir Facebook mantar toplama kümesinde ortaya çıktı. Lakin kısa müddet sonra kullanıcılara zehirli bir mantarı tereyağında pişirmelerini tavsiye ederek yapay zekanın tehlikelerini bir sefer daha hatırlattı.

Yapay zekanın yararlı bir eserden neredeyse ölümcül bir sonuca ulaşmasının artık klasikleşen bu son örneği, bilhassa yabani mantar toplama üzere riskli bir mevzuda yapay zeka tavsiyesine uymanın risklerini vurguluyor. 404 Media’nın bildirdiği üzere bu yanılgı, yapay zekanın mantar dünyasında yaptığı birinci kusur da değildi. Geçtiğimiz birkaç ayda Amazon’da yapay zeka tarafından yazılmış mantar toplama kitaplarının ve Google aramalarında yapay zeka tarafından oluşturulan mantar görsellerinin sayılarında büyük bir artış yaşandı.

Şimdi Meta, FungiFriend’i direkt “Kuzeydoğu Mantar Tanımlama ve Tartışma” kümesine otomatik olarak ekleyerek çıtayı yükseltti. Çoğunluğu yeni başlayanlardan oluşan 13.500 üyesi olan bu küme, insanların inançlı toplama tavsiyeleri almak için geldiği bir alan olarak görülüyor. Kümenin yöneticileri artık botu kaldırmak için tez ederken, Meta sessizliğini koruyor.

Şıklığından ödün vermiyor

Yapay zeka tarafından üretilmiş sakallı ve çok renkli bir büyücü görselini fotoğraf resmi olarak kullanan FungiFriend, en azından insanları yanıltırken şık görünmeye dikkat ediyor. Tecrübeli bir toplayıcı ve tüketici güvenliği savunucusu olan Rick Claypool, bu botların yenilebilir mantarları tanımlamada sağlam olmaktan çok uzak olduğunu belirtiyor. Claypool, Fungi Magazine’deki paylaşımında bu sistemlerin inançlı mantarları tehlikeli olanlardan ayırt etme maharetinden mahrum olduğunu vurguladı.

Yapay zeka sohbet robotunun oluşturduğu risk, bir küme üyesinin FungiFriend’den Sarcosphaera coronaria isimli arsenik emen ve hatta ölümlere neden olan bir mantar hakkında yemek pişirme tavsiyesi istemesiyle açık bir biçimde ortaya çıktı. Bot, bu zehirli mantarın “yenilebilir lakin nadir” olduğunu söyleyerek sote yahut çorba yapılmasını önerdi. Google’ın yapay zekasının kullanıcılara pizzaya tutkal sürmelerini önermesine misal bir tavsiye…

Yapay zeka sohbet robotlarının birtakım yetenekleri etkileyici ve yararlı olabilse de, her vakit meselesiz olmadıklarını unutmamak gerekiyor. Lakin mantar toplayıcıları için bu durum can sıkıcı olmaktan öteye geçerek nitekim tehlikeli bir hal alıyor. Claypool, bu kümelerin insanların mantar tanımlama konusunda gerçek, insan tavsiyeleri için başvurdukları yerler olduğunu açıklıyor. Lakin FungiFriend artık mobilde en üstte yer alan karşılık seçeneği olduğundan ötürü, Meta insanları topluluktaki gerçek uzmanlar yerine yapay zeka tavsiyelerine yönlendiriyor.

Yargılamaz, lakin öldürebilir

Tipik bir küme gönderisinde, biri tarafından verilen makûs tavsiyeler öteki kullanıcılar tarafından düzeltilebiliyor. Fakat yapay zeka devreye girdiğinde bu durum değişiyor ve sistem içerisindeki güvenlik denetimlerinin kâfi olmadığı görülüyor. Mantar toplama üzere yeni bir uğraşa birinci adımını atmak üzere olan bireyler, “aptalca” sorular sormaktan çekinerek ve soruları için onları yargılamayacağını bildikleri bota yönelebilirler. Claypool’un da vurguladığı üzere, “Yapay zeka sizi yargılamayabilir, fakat sizi öldürebilir.”