Neuron Hugging Face ko'rish va til modellarini tezlashtiruvchi DSpark drafterini taqdim etdi
Hugging Face LFM2.5-VL-3B ko'rish va til modeli uchun eksperimental DSpark qoralama modelini chiqardi.
Yangi e'lon qilingan qoralama model spekulyativ dekodlash yo'lini qo'shish orqali xotira hajmini minimal oshirgan holda chiqish sifatini o'zgartirmasdan tezlikni sezilarli darajada oshiradi. Matn va tasvir elementlari yagona tasvirga keltirilib, model har qanday kirish ma'lumotlari uchun bir xil o'lchamdagi yashirin holat vektorlari bilan ishlaydi.
Taxminan 280 million parametrga ega bo'lgan ushbu yordamchi model asosiy tizimning parametrlar sonini atigi 8.9 foizga oshiradi. U to'rt qatlamli, e'tiborga asoslangan soddalashtirilgan arxitekturaga ega bo'lib, turli xil vazifalar va muhitlarda sinovdan o'tkazildi.
Model llama.cpp, MLX-VLM va SGLang platformalarida ishga tushirish uchun tayyor ko'rinishda taqdim etilgan. Shuningdek, foydalanuvchilar uni Safetensors va GGUF formatlarida olishlari mumkin.
Asosiy faktlar
- DSpark qoralama modeli LFM2.5-VL-3B ko'rish va til modeli uchun yaratilgan.
- Model taxminan 280M parametrga ega bo'lib, asosiy model hajmiga 8.9% qo'shimcha qo'shadi.
- Tizim llama.cpp, MLX-VLM va SGLang platformalarini qo'llab-quvvatlaydi.
- Sinovlar davomida dekodlash tezligi qurilma va grafik kartalarga qarab sezilarli darajada oshgani aniqlandi.
Nega muhim?
Sun'iy intellekt modellarining tezligi va samaradorligini oshirish, ayniqsa cheklangan resurslarga ega qurilmalarda ulardan foydalanishni qulaylashtiradi. Bu kabi yangi yondashuvlar mahalliy va global miqyosda ilg'or texnologiyalarni yanada ommabop qiladi.
Manba
Hugging Face (huggingface.co)
“Accelerating vision-language models with LFM2.5-VL-DSpark”
Asl maqolani o'qish →Ushbu matn asl maqolaning qisqa mazmuni bo'lib, sun'iy intellekt yordamida o'zbek tilida tayyorlandi. Batafsil ma'lumot va to'liq matn uchun asl manbaga murojaat qiling.
