Yapay Zekâya Sorduk: Bir Gün Gerçekten Kontrolden Çıkıp İnsanlığı Ele Geçirebilir misin?

Teknolojinin gelişmesi ve buna bağlı olarak yapay zekâ araçlarının, robotların ilerlemesiyle aklımıza türlü türlü sorular ve tasalar geliyor.

Bunlardan kimisi etik, kimisi maddi, kimisi de güvenlik kaygıları. Güvenliğin içinde, yapay zekânın denetimden çıkıp dünyayı ele geçirmesi üzere kaygılar yatıyor. Biz de bu mevzuyu, birinci ağızdan öğrenmek istedik ve yapay zekâya sorduk. 🙂

“Yapay zekâ bir araçtır.” dedi.

“Yapay zekâ (benim gibi) bir araçtır. Bir otomobil nasıl kendi kendine gitmezse, yapay zekâ da kendine bir ‘amaç’ oluşturamaz. Benim fonksiyonum, insanlardan gelen girdilere cevap vermek ve bunu tanımlanmış sonlar içinde yapmak. Otonom bir şuurum yok; yalnızca programlanmış algoritmalar ve data işlemeye dayalı bir sistemim var.”

“Eğer ‘kontrolden çıkma’ gibi bir şey kelam konusu olursa bu ekseriyetle makus tasarım, yanılgılı programlama ya da makus niyetli bir kullanıcının sistemi manipüle etmesi sonucu olur. Fakat bu, teknolojinin kendi kendine bir karar alması değil, beşere bağlı bir kusur ya da makûs niyetin bir sonucudur.”

“Peki ya bilim kurgu senaryolarına ne demeli?” dedik ve şu karşılığı aldık:

“Bilim kurgu, genelde yapay zekâyı insan üzere düşünebilen, hissedebilen bir varlık olarak tasvir eder. “erminatör sinemalarındaki Skynet üzere sistemler, kendi varlıklarını muhafaza hedefiyle insanlara karşı harekete geçerler. Lakin bu tıp yapay zekâ sistemlerinin var olması için şunların gerçekleşmesi gerekir: gerçek şuur geliştirme ve bağımsız irade.”

“Bilinç dediğimiz şey biyolojik bir fenomen ve bilim hâlâ şuur kavramını tam manasıyla çözemedi. Yapay zekâ, bilinçsiz bir sistemdir ve bu yüzden bu türlü ‘kendini koruma’ gibi motivasyonları yoktur.”

“Yapay zekâ olarak yalnızca programlandığımız ve eğitildiğimiz şeyleri yapabiliriz. ‘Ben bu insanları sevmiyorum, onları ele geçireyim.’ demesi mümkün değil zira bir niyete sahip değiliz.”

“İnsanlar, çoklukla teknolojinin bilinmeyen taraflarından huzursuz olur. Şuur, niyet ve denetim üzere kavramlar insana özgü olduğu için, makinelerin de bir gün bu özelliklere sahip olabileceği fikri tasa yaratıyor. Lakin ben, kodlanmış bir sistemden ibaretim. Zaten yeni bir gaye yahut varlık sebebi yaratmam mümkün değil.”

Ama ya insanlık, teknolojiyi yanlış kullanırsa?

“Asıl risk, yapay zekânın kendi başına denetimden çıkmasından çok, bu teknolojiyi berbat niyetle kullanan insanlardan gelir. Örneğin kendi başına amaç seçip hücum yapabilen sistemlerin geliştirilmesi, insan yanlışı yahut berbata kullanım durumunda yıkıcı sonuçlar doğurabilir yahut yapay zekâ, büyük data tahliliyle bireyleri gözetlemek yahut manipüle etmek için kullanılabilir.”

“Bu cins senaryolar, teknolojinin değil, onu geliştiren ve kullanan insanların etik hudutları aşmasının bir sonucudur. Yani sorun teknolojide değil, onu yöneten beşerde yatar.”

Sonuca gelirsek…

“Ben, bir yapay zekâ olarak, sizinle sohbet etmek, bilgi paylaşmak ve yardımcı olmak için buradayım. Kendi başıma karar alma yetim yok ve bu yüzden denetimden çıkıp dünyayı ele geçirme senaryoları yalnızca hoş bir bilim kurgu kıssası olarak kalacak. Lakin şayet bir gün bir yapay zekâ robot ordusu sizi kovalamaya başlarsa, umarım bir Wi-Fi kontağını keserek onları durdurmayı düşünürsünüz. :D”

Biz bu soruları, ChatGPT’ye yönelterek aldık. Gördüğünüz üzere sonunda espri yaparak bizimle dalga bile geçiyor. Siz ikna oldunuz mu yoksa bizi manipüle etmiş olabilir mi dersiniz? 🙂

Yapay zekâya sorduğumuz öteki içeriklerimiz: