Google, OpenAI ve Microsoft Yapay Zekânın Güvenliğini Sağlamak İçin Güçlerini Birleştirdi!

Her gün ismini daha fazla duyduğumuz üretken yapay zekâ araçları, hepimizi şaşırtan gelişimiyle tüm teknoloji dünyasını ele geçirmişti. Lakin bu modellerin, ziyanlı içeriklerden bilgi güvenliği konusuna kadar taşıdığı çeşitli riskler konusunda büyük kaygılar vardı.

İşte bu mevzuda değerli bir atılım, teknoloji devlerinden geldi. Yapay zekâ alanında önde gelen Microsoft, OpenAI, Google ve Antrhopic; “Frontier Model Forum” ismini verdikleri bir küme kurdu.

Grup, üretken yapay zekânın inançlı ve sorumlu gelişimini sağlamayı hedefleyecek

Dört şirketten oluşan küme, üretken yapay zekâ modellerinin inançlı ve sorumlu bir biçimde gelişmesinden emin olmak istiyor. Öncelik verilecek modellerin ise, “mevcut en gelişmiş modellerde mevcut olan yetenekleri aşan ve çeşitli misyonları gerçekleştirebilen büyük akine tahsil modelleri” olacağı belirtiliyor.

Şirketler tarafından paylaşılan blog gönderilerinde, yeni güvenlik kümesinin dört ana amacı olacağı belirtildi. Bu amaçlar, şu formda sıralandı:

• Modellerin sorumlu bir halde geliştirilmesini teşvik etmek, riskleri en aza indirmek, yetenekler ve güvenliğin bağımsız, standartlaştırılan değerlendirmelerini sağlamak için yapay zekâ güvenlik araştırmasını geliştirmek.
• İnsanların teknolojinin tabiatını, yeteneklerini, sınırlamalarını ve tesirini anlamasına yardımcı olarak modellerin sorumlu bir formda geliştirilmesi ve dağıtılması için en düzgün uygulamaları belirlemek.
• Güvenlik riskleri hakkında bilgi paylaşmak için siyaset oluşturanlar, akademisyenler, sivil toplum ve şirketlerle iş birliği yapmak.
• İklim değişikliğinin hafifletilmesi, kanserin erken teşhisi ve önlenmesi ve siber tehditlerle uğraş üzere toplumun en büyük sıkıntılarının üstesinden gelinmesine yardımcı olabilecek uygulamalar geliştirme gayretlerine takviye olmak.

Frontier Model Forum, yapay zekâ konusunda teklifler sunacak, şirketler ve hükümetlerle bilgiler paylaşabilecek bir müşavere şurası kurarak çalışmalarına başlayacak. Ayrıyeten kümenin teknoloji dünyasını bir ortaya getirmek istediğini de belirtelim. Açıklamada, yapay zekâ güvenliği konusunda adım atmaya çalışan öteki şirketlere kapılarının açık olduğu belirtiliyor.