ForInvest – Nvidia CEO’su Jensen Huang, Pazartesi günü şirketin yeni nesil çiplerinin “tam üretimde” olduğunu ve sohbet robotları ile diğer yapay zeka uygulamalarını sunarken şirketin önceki çiplerinin beş katı yapay zeka hesaplama gücü sağlayabileceğini söyledi.
Huang, Las Vegas’taki Tüketici Elektroniği Fuarı’nda yaptığı konuşmada, bu yılın ilerleyen dönemlerinde piyasaya çıkacak çipler hakkında yeni ayrıntıları açıkladı.
Altı ayrı Nvidia çipinden oluşan Vera Rubin platformunun bu yılın ilerleyen dönemlerinde piyasaya sürülmesi bekleniyor. Amiral gemisi sunucu, şirketin 72 grafik birimini ve 36 yeni merkezi işlemcisini içerecek. Huang, bunların 1.000’den fazla Rubin çipi içeren “bölmelere” nasıl birleştirilebileceğini gösterdi ve yapay zeka sistemlerinin temel birimi olan “token” üretimi verimliliğini 10 kat artırabileceğini söyledi.
Ancak yeni performans sonuçlarını elde etmek için Huang, Rubin çiplerinin şirketin daha geniş endüstrinin benimsemesini umduğu tescilli bir veri türü kullandığını söyledi.
Huang, “Sadece 1,6 kat daha fazla transistör sayısına sahip olmamıza rağmen performansta bu kadar büyük bir sıçrama sağlayabilmemizin yolu bu” dedi.
Nvidia, yapay zeka modellerini eğitme pazarında hala hakim olsa da, sohbet robotları ve diğer teknolojilerin yüz milyonlarca kullanıcısına bu modellerin meyvelerini sunmada çok daha fazla rekabetle karşı karşıya. Bu rekabet hem Advanced Micro Devices gibi geleneksel rakiplerden hem de Alphabet ’in Google’ı gibi müşterilerden geliyor.
Huang’ın konuşmasının büyük bir kısmı, yeni çiplerin bu görev için ne kadar iyi çalışacağına odaklandı. Bu, sohbet robotlarının uzun sorulara ve konuşmalara daha hızlı yanıt vermesine yardımcı olmayı amaçlayan “bağlam bellek depolama” adlı yeni bir depolama teknolojisi katmanı eklemeyi içeriyor.
Nvidia ayrıca, birlikte paketlenmiş optik adı verilen yeni bir bağlantı türüne sahip yeni nesil ağ anahtarlarını tanıttı. Binlerce makineyi bir araya bağlamak için kilit olan bu teknoloji, Broadcom ve Cisco Systems ’ın teklifleriyle rekabet ediyor.
Nvidia, CoreWeave’in yeni Vera Rubin sistemlerine sahip olacak ilklerden biri olacağını ve Microsoft , Oracle , Amazon ve Alphabet’in de bunları benimsemesini beklediğini söyledi.
