Microsoft, uzun bağlamlı ajanlar için Maia 300 sistemini duyurdu

Neler değişiyor?

Microsoft, 12 Ekim’de üçüncü nesil Azure Maia 300 yapay zekâ hızlandırıcısını duyurdu. Şirket, sistemi uzun bağlamlı akıl yürütme, gecikmeye duyarlı konuşmalar ve kesintisiz çok adımlı ajan görevleri için tasarladığını söylüyor. Maia 300, hesaplama, bellek denetleyicisi ve giriş-çıkış işlevlerini farklı yongacıklara ayıran bir mimari kullanıyor.

Her hızlandırıcı sekiz HBM4 yığınıyla 288 GB bellek ve saniyede 18 TB tepe bellek bant genişliği sunuyor. Microsoft’un verilerine göre 96 hızlandırıcılı 167 kW’lık bir raf, Maia 200’e kıyasla yedi kata kadar raf ölçeğinde token çıktısı ve 2,5 kattan fazla watt başına performans sağlayabiliyor. Şirket ayrıca önde gelen GPU tabanlı sistemlere göre megawatt başına yüzde 40 daha fazla token bekliyor; karşılaştırılan GPU’ları açıklamadı.

Maia 300 üretim dağıtımları 2027’de başlayacak. Microsoft aynı yıldan itibaren Maia ailesini çok gigawatt ölçeğine çıkararak kendi ürün ve hizmetlerinde başlıca çıkarım sistemi hâline getirmeyi planlıyor. Maia 200 ise Copilot dâhil mevcut üretim iş yüklerinde kullanılıyor.