ChatGPT’nin Atası Sayılabilecek Chatbot’u İcat Eden Joseph Weizenbaum, Nasıl Oldu da Yapay Zekâya Düşman Oldu?

İnsanlarla tıpkı bugün olduğu üzere sohbet eden bu bot, ne oldu da mucidini kendisine düşman yapmıştı?

Ya da sanılanın bilakis Joseph Weizenbaum onun değil, teknolojinin düşmanıydı…

ELIZA, kolay bir lisan sürece programıydı.

MIT’nin laboratuvarlarında dünyanın birinci sohbet botu ELIZA’yı geliştiren Joseph Weizenbaum, yapay zekânın hudutlarını keşfederken aslında insan tabiatına dair çarpıcı gerçeklerle de yüzleşmişti. Bu bot, kullanıcının cümlelerindeki anahtar sözleri yakalıyor ve sorulara dönüştürüyordu.

Tıpkı ChatGPT ile gerçekleştirdiğimiz sohbet tadında, ELIZA’ya da “Hayat çok kötü” dediğimizde, “Neden makûs hissediyorsun?” diye sorarak diyaloğu sürdürebiliyordu. Weizenbaum bu deneyi başlattığında, hedefi insanların bir makineyle nasıl etkileşim kuracağını gözlemlemekti.

Ancak ELIZA’nın yarattığı tesir, beklenmedik boyutlara ulaşmıştı.

Programın en ünlü senaryosu DOCTOR, psikoterapist Carl Rogers’ın yansıtıcı dinleme tekniklerini taklit ediyordu. Beşerler, ekran karşısında bir terapistle konuşuyormuşçasına hislerini ELIZA’ya açıyorlardı.

Bu durum ise Weizenbaum’u rahatsız etmişti. İnsanların, hiçbir gerçek anlayış yeteneği olmayan bir yazılıma bu kadar kolay güvenmesi, onu yapay zekânın etik boyutunu sorgulamaya sevk etti. “ELIZA Etkisi” ismini verdiği bu olgu, insanların teknolojiye atfettiği mananın, tehlikeli bir yanılsamaya dönüşebileceğini anlatmaya çalışıyordu. 

Weizenbaum, ELIZA’nın muvaffakiyetinin akabinde mesleğinde radikal bir dönüşüm yaşadı.

1976’da yayımladığı Computer Power and Human Reason isimli kitabında, insan ile makine ortasındaki ontolojik farkı vurguluyordu. Ona nazaran bilgisayarlar, sadece “hesaplama” yapabilirdi. İnsanın sahip olduğu “yargı” yetisi ise tecrübelerden, ahlaki bedellerden ve tarihi bağlamdan besleniyordu.

Tüm bu sebeplerden ötürü Weizenbaum, yapay zekânın insan hayatının belli alanlarına müdahalesini “ahlaki bir sapkınlık” olarak nitelendirmeye başlamıştı.

Herkes, bu görüşlerinden sonra Weizenbaum’u teknoloji düşmanı ilan etti.

Weizenbaum’un öngörüleri ise bugün ChatGPT üzere lisan modelleriyle yine gündeme geliyor. Günümüzde beşerler, bu araçlara duygusal bağlanıyor, ferdî meselelerini anlatıyor, fal bile baktırıyor.

Özellikle TikTok üzere mecralarda “ChatGPT’ye şunu sorun, verdiği karşılığa inanamayacaksınız” üzere birçok akımı görmemiz mümkün. Hâl bu türlü olunca, Weizenbaum’un neden bu türlü düşündüğünü anlamamak mümkün değil.

Weizenbaum’a nazaran insanlık, teknolojiyi yönetmek yerine ona boyun eğdikçe, kendi insanlıklarını da kaybediyor. Bu niyetini de çok hoş bir örnekle destekliyor: Bir askerin, drone ile öldürdüğü insanları görmemesi, vicdani sorumluluğunu azalttığı için onu daha duyarsız bir hâle getirebiliyor.

Aslında o, teknolojik ilerlemeye değil; onun, insani bedellerin önüne geçmesine karşıydı.

“Bilgisayarlar bize ne yapmamız gerektiğini söylememeli, yalnızca nasıl yapacağımızı göstermeli” fikrine hâkim olan mucit, ELIZA’yı yaratmasına karşın yapay zekânın karanlık potansiyelini birinci görenlerden de birisiydi. 

Artık ChatGPT ile sohbet ederken tahminen Weizenbaum’un şu kelamlarını hatırlarız:

“Bir şeyi yapabiliyor olmamız, yapmamız gerektiği manasına gelmez. İnsan olmanın manasını korumak, teknolojiden daha değerlidir.”