AI donanımında yenilik dalgası: Nvidia’nın tahtı tehlikede mi?

Yapay zeka donanımları alanında tartışmasız başkan pozisyonda bulunan Nvidia, yüksek performanslı GPU’ları ve CUDA yazılım yığınıyla, büyük AI modellerini eğitmek ve çalıştırmak için teknoloji dünyasının öncelikli tercihi haline geldi. Fakat bu liderlik, Nvidia’ya meydan okuyan rakiplerin süratle artmasına pürüz olmuyor.

Amazon, Google, Microsoft ve Meta üzere teknoloji devleri, Nvidia’nın çiplerine olan bağımlılıklarını azaltmak emeliyle özel çip geliştirme çalışmalarına büyük yatırımlar yapıyor. Ayrıyeten, Nvidia’nın tahtını sallamayı hedefleyen pek çok yeni teşebbüs de var ve hepsi daha verimli yahut daha uygun maliyetli alternatifler sunma arayışında.

Fractile ve yeni jenerasyon AI donanımları

Bu yeni teşebbüslerden biri olan Birleşik Krallık merkezli Fractile, mevcut sistemlere kıyasla AI lisan modellerini 100 kat daha hızlı ve sırf onda bir maliyetle çalıştırabilen ihtilal niteliğinde bir teknoloji geliştirdiğini argüman ediyor. Şirket, ortalarında NATO ve eski Intel CEO’su Pat Gelsinger’ın da bulunduğu etkileyici bir yatırımcı kümesine sahip.

Fractile, ürettikleri donanımın mevcut darboğazları büsbütün ortadan kaldırarak en büyük transformatör ağlarında azamî sürat düzeylerine ulaşmayı mümkün kılacağını belirtiyor. Şirketin bu yaklaşımı, büyük lisan modellerinin (LLM) neredeyse anlık sonuçlar ürettiği ve çok daha gelişmiş yeteneklere sahip olduğu bir periyodun kapısını aralayabilir.

Bununla birlikte, Fractile’ın performans tezleri, Llama 2 70B ve TensorRT-LLM kullanan 8-bit kantizasyon Nvidia H100 GPU kümelerine dayanıyor. Fakat, Nvidia’nın yeni H200 çipleriyle rastgele bir direkt karşılaştırma şimdi yapılmış değil. Bu durum, Fractile’ın potansiyel avantajlarını değerlendirirken dikkat edilmesi gereken bir nokta olarak öne çıkıyor.

Yine de Fractile’ın çalışmaları, elbet ki sanayinin ilgisini çekmeyi başarıyor. Pat Gelsinger’ın yakın vakitte yaptığı bir LinkedIn paylaşımında belirttiği üzere, günümüzün en gelişmiş AI modelleri, donanım teknolojilerinin sınırlamaları nedeniyle kapasitelerini tam manasıyla ortaya koyamıyor. Bu nedenle donanım alanındaki her yeni gelişme, AI modellerinin yetenekleri üzerinde direkt bir tesir yaratıyor. Fractile, vaat ettiği muvaffakiyetin yalnızca bir kısmını bile gerçekleştirebilirse, sanayide derin bir dönüşüm yaratabilir.