OpenAI, daha güvenli bir yapay zeka için kolları sıvadı

OpenAI, yapay zeka çalışmalarında muhteşem star rolünü oynamaya devam ediyor ve kısa müddet sonra yeni yapay zeka modeli GPT-6’yı tanıtmak üzere çalışmalarını sürdürüyor. Lakin şirketi eleştirenler de yok değil. Bilhassa eski şirket yöneticileri yapay zekanın inançsız ve tehlikeli olduğunu sav ediyorlar.

Yapay zekaya şartsız koşulsuz güvenmek büyük bir kusur olabilir. Tesla arabalarını yapay zekaya teslim edip direksiyonu bırakan pek çok kişi geçirdikleri kazalarda bu itimadın bedelini canlarıyla ödediler. Daha küçük örneklerde ise, ChatGPT’nin kullanıcının istediği yanıtları bulmak için düzmece dokümanlar yarattığı ve bu düzmece bilgiler üzerinden karşılıklar oluşturduğu ortaya çıktı.

OpenAI’den ayrılan eski yöneticilerin ikazlarında sık sık lisana gelen bu husus artık OpenAI’nin de gündeminde. Open AI’nin kurucusu Sam Altman‘ın da dahil olduğu üst seviye yöneticiler şirket içinde Emniyet ve Güvenlik Komitesi ismini verdikleri bir komite kurdular. Bu komite, yapay zekanın daha sağlam halde geliştirilmesini takip edecek.

OpenAI bahisle ilgili basın açıklamasında, “Hem yetenekler hem de güvenlik açısından sektör lideri modeller oluşturup piyasaya sürmekten gurur duyuyoruz” dedi.

“Zehirli palavra kültürü”

Ancak şirketin medya gözündeki güvenirliği giderek düşüyor. Hatta, ünlü sinema oyuncusu Scarlett Johansson, OpenAI’yi ChatGPT’yi seslendirirken kendi sesini kullanmakla suçlamıştı. Ayrıyeten şirketin eski yöneticileri medya önünde yaptıkları açıklamalarda, Sam Altman’ın güvenilmez bir karaktere sahip olduğunu ve şirket içinde “zehirli bir palavra kültürü” geliştirdiğini vurgulamışlardı. Ve artık kurulan ve içerisinde Sam Altman’ın da bulunduğu komite, değişik bir formda, “Sam Altman’ın zehirli palavra kültürü” ile savaşacak.

Yani OpenAI büyüdükçe şirket içi hengameler daha fazla görünür olacak ve yapay zekanın güvenlik tedbirleri konusu da medyanın gündemine taşınacak üzere anlaşılıyor. Bu tartışmaların büyümesine hazır olalım.