Ailenta 20:45 da yangilandi
Xabar

KV-kash transporti MiniMax-M3 xulosa chiqarishga ta'siri

Habr nashrida KV-kash transportining ajratilgan xulosa chiqarish (disaggregated inference) samaradorligiga ta'siri o'rganildi. Tadqiqotda prefill va decode bosqichlari turli GPU-tugunlarda bajariladigan MiniMax-M3 modelining ishlashi Nvidia B200 chiplari yordamida sinovdan o'tkazildi.

nvidia — arxiv surati
Arxiv surati · Alper Çuğun from Berlin, Germany · CC BY 2.0, Wikimedia Commons
14-oktabr, 02:29 · 18 kun oldin tadqiqotchiplar
Asl maqolani o'qish Habr

Sarlavha va xulosa asl maqola asosida sun'iy intellekt yordamida o'zbekchada tayyorlangan. To'liq matnni manbadan o'qing.