NVIDIA’dan, Geliştiricilere Yönelik Yapay Zekâ Yazılım Platformu: NIM

NVIDIA, GTC 2024 aktiflikleri kapsamında değerli açıklamalarda bulundu. O açıklamalardan bir tanesi de “NIM” olarak isimlendirilen yeni bir yazılım platformuydu. NIVIDA NIM, evvelden eğitilmiş olan yapay zekâ modellerinin üretim ortamlarına süratlice aktarılmasını sağlayacak. Böylece geliştiriciler, çok önemli manada zaman tasarrufu yapmış olacaklar. 

NVIDIA’ya nazaran yapay zekâ modellerinin üretim ortamlarına dağıtımı, genelde haftalar alıyor. İşte NIM, tam olarak burada devreye giriyor. Kendi yapay zekâ yol haritalarını hızlandırmak isteyen şirketler, NIM platformu ile bu süreci hızlandırmış olacaklar. 

NIM, daha şimdiden pek çok şirkete takviye veriyor

NVIDIA’nın yeni yazılım platformu, şimdiden NVIDIA, A121, Adept, Cohere, Getty Images ve Shutterstock’un yapay zekâ modellerini destekliyor. Ayrıca Google, Hugging Face, Meta, Microsoft, Mistral AI ve Stability AI’ın açık kaynak yapay zekâ modellerine de dayanak veriliyor. Lakin NIM, bunlardan ibaret olmayacak. Daha fazla takviye ve entegrasyon için Amazon, Google ve Microsoft üzere firmalarla çalışmalar devam ediyor.

NVIDIA, NIM ile kimi mikro hizmetler de sunacak. Mesela bir şirket, konuşma ve çeviri modellerini özelleştirmek için Riva’yı, hava ve iklim simülasyonları için de Earth-2 modelini kullanabilecekler. Üstelik şirket, bunların kapsamını da genişleteceğini duyurdu. Mesela RAG LLM yapısı, NIM ile uyumlu hâle getirilecek ve üretken yapay zekâ sohbet botları oluşturulabilecek.