Ailenta 00:13 da yangilandi
Xabar

Gemma modelini 8GB VRAM'li noutbukda optimallashtirish

Foydalanuvchi 8GB VRAM'li Nvidia RTX 2000 Ada videokartali noutbukda gemma-4-12B-it QAT modelini samarali ishga tushirishni sinovdan o‘tkazdi. Cheklangan VRAM'ga qaramay, 8192 token kontekstli lokal modelni joylashtirish mumkinligi aniqlandi.

nvidia — arxiv surati
Arxiv surati · Coolcaesar · CC BY-SA 4.0, Wikimedia Commons
4-noyabr, 17:52 · 6 soat oldin chiplartadqiqot
Asl maqolani o'qish Habr

Sarlavha va xulosa asl maqola asosida sun'iy intellekt yordamida o'zbekchada tayyorlangan. To'liq matnni manbadan o'qing.