1150 Ünlü İsimden Yapay Zekâ Çalışmaları Durdurulsun Mektubu

60 okunma — 29 Mart 2023 14:05

uzmanblog

Son bir yıl içinde teknoloji ve internet dünyası yeni bir çağa giriş yaptı. Bir insanın da ötesinde istediğiniz her şeye erişebilen sohbet botları, yazdığınız metni ‘gerçeğinden’ bile gerçekçi halde görselleştiren görsel araçları… Yalnızca bir yılda çıkan bu araçlarla birçok kesimde işleyiş değişmeye başladı.

Yapay zekâdaki bu süratli ve denetimsiz gözüken gelişme, uzman isimleri de ikiye böldü. Kimisi bu teknolojilerin gelişimini desteklerken, kimisi ise riskler nedeniyle tasa duymaya başladı. Bu tasalar, yapay zekâ geliştiricilerine karşı hazırlanan bir mektupta lisana getirildi. Mektuba Elon Musk ve Steve Wozniak üzere isimler de imza attı.

“Yapay zekâ sistemlerinin geliştirilmesi durdurulsun”

Endişeleri anlamak için mektubun tamamını okumakta yarar var:

Kapsamlı araştırmaların gösterdiği ve üst seviye yapay zekâ laboratuvarlarının onayladığı üzere, beşerle rekabet edecek zekâya sahip yapay zeka sistemleri, toplum ve insanlık için büyük riskler oluşturabilir. Geniş çapta onaylanan Asilomar Yapay Zekâ Prensiplerinde belirtildiği üzere, Gelişmiş Yapay Zekâ, Dünya üzerindeki hayat tarihinde derin bir değişikliği temsil edebilir ve orantılı itina ve kaynaklarla planlanmalı ve yönetilmelidir. Ne yazık ki, son aylarda yapay zekâ laboratuvarlarının hiç kimsenin – yaratıcılarının bile – anlayamayacağı, iddia edemeyeceği yahut emniyetli bir halde denetim edemeyeceği daha güçlü dijital zihinler geliştirmek ve dağıtmak için denetimden çıkmış bir yarışa kilitlendiğini görmesine karşın, bu seviyede bir planlama ve idare gerçekleşmiyor.

Çağdaş yapay zekâ sistemleri artık genel vazifelerde beşerlerle rekabet edebilir hale geliyor[3] ve kendimize şu soruyu sormalıyız: Makinelerin bilgi kanallarımızı propaganda ve gerçek dışı şeylerle doldurmasına müsaade vermeli miyiz? Tatmin edici olanlar da dahil olmak üzere tüm işleri otomatikleştirmeli miyiz? Sonunda sayıca üstün olabilecek, akılca üstün gelebilecek, modası geçmiş ve bizim yerimizi alabilecek insan olmayan zihinler geliştirmeli miyiz? Medeniyetimizin denetimini kaybetme riskine girmeli miyiz? Bu çeşit kararlar seçilmemiş teknoloji başkanlarına devredilmemelidir. Güçlü yapay zekâ sistemleri, sırf tesirlerinin olumlu olacağından ve risklerinin yönetilebilir olacağından emin olduğumuzda geliştirilmelidir. Bu inanç güzel bir formda gerekçelendirilmeli ve bir sistemin potansiyel tesirlerinin büyüklüğü ile artmalıdır. OpenAI’nin yapay genel zekâ ile ilgili son açıklaması, “Bir noktada, gelecekteki sistemleri eğitmeye başlamadan evvel bağımsız inceleme almak değerli olabilir ve en gelişmiş eforlar için, yeni modeller oluşturmak için kullanılan bilgi sürecin büyüme oranını sınırlamayı kabul etmek değerli olabilir.” Katılıyoruz. O nokta bugün.

Bu nedenle, tüm yapay zekâ laboratuvarlarını GPT-4’ten daha güçlü yapay zekâ sistemlerinin eğitimine en az 6 ay orta vermeye çağırıyoruz. Bu duraklama herkese açık ve doğrulanabilir olmalı ve tüm kilit aktörleri içermelidir. Bu türlü bir duraklama süratli bir halde yasalaştırılamazsa, hükümetler devreye girmeli ve bir moratoryum başlatmalıdır.

Yapay zekâ laboratuvarları ve bağımsız uzmanlar, bağımsız dış uzmanlar tarafından titizlikle denetlenen gelişmiş yapay zekâ tasarımı ve geliştirmeye yönelik bir dizi paylaşılan güvenlik protokolünü ortaklaşa geliştirmek ve uygulamak için bu duraklamayı kullanmalıdır. Bu protokoller, bunlara bağlı sistemlerin makul bir kuşkunun ötesinde inançlı olmasını sağlamalıdır. Bu, genel olarak yapay zekâ geliştirmede bir duraklama manasına gelmez, sadece tehlikeli yarıştan, ortaya çıkan yeteneklere sahip, her zamankinden daha büyük, öngörülemeyen kara kutu modellerine geri adım atmak manasına gelir.

Yapay zekâ araştırma ve geliştirme, günümüzün güçlü, son teknoloji sistemlerini daha hakikat, inançlı, yorumlanabilir, şeffaf, sağlam, uyumlu, emniyetli ve sadık hale getirmeye yine odaklanmalıdır.

Buna paralel olarak, yapay zekâ geliştiricileri, sağlam yapay zekâ yönetişim sistemlerinin gelişimini kıymetli ölçüde hızlandırmak için siyaset yapıcılarla birlikte çalışmalıdır. Bunlar en azından şunları içermelidir: Yapay zekaya adanmış yeni ve yetenekli düzenleyici makamlar; son derece yetenekli yapay zekâ sistemlerinin ve büyük hesaplama yeteneği havuzlarının nezareti ve takibi; gerçek ile sentetik olanı ayırt etmeye ve model çıktılarını izlemeye yardımcı olmak için kaynak ve filigran sistemleri; sağlam bir kontrol ve belgelendirme ekosistemi; yapay zekâ kaynaklı ziyan sorumluluğu; teknik yapay zekâ güvenlik araştırması için güçlü kamu finansmanı; yapay zekânın neden olacağı dramatik ekonomik ve politik kesintilerle (özellikle demokraside) başa çıkmak için uygun kaynaklara sahip kurumlar.

İnsanlık yapay zekâ ile gelişen bir geleceğin tadını çıkarabilir. Güçlü yapay zekâ sistemleri oluşturmayı başardıktan sonra, artık mükafatları topladığımız, bu sistemleri herkesin açık faydası için tasarladığımız ve topluma ahenk sağlama talihi verdiğimiz bir “Yapay zekâ yazının” tadını çıkarabiliriz. Toplum, toplum üzerinde potansiyel olarak yıkıcı tesirleri olan öteki teknolojilere orta verdi. Bunu burada yapabiliriz. Uzun bir yapay zekâ yazının tadını çıkaralım, hazırlıksız bir formda sonbahara koşmayalım.

Mektuba imza atanlar ortasında büyük isimler var:

An prestijiyle kesimden 1125 destekçiye kavuşan mektuba imza atan isimler ortasında şunlar da yer alıyor: