Neuron Hugging Face transformers kutubxonasiga GGUF modellarini qo‘shdi
Hugging Face platformasi foydalanuvchilarga noutbuk xotirasiga moslashtirilgan GGUF modellarini transformers orqali bevosita ishlatish imkoniyatini taqdim etdi.
Hugging Face jamoasi transformers kutubxonasiga GGUF formatidagi modellarni samarali ishlatish imkoniyatini qo‘shdi. Endilikda foydalanuvchilar o‘zl qurilmalarida maxsus chek-poylarni oddiy API orqali osongina yuklab olishlari va generatsiya qilishni boshlashlari mumkin.
Boshlang‘ich bosqichda asosiy e’tibor Apple Silicon qurilmalarida Qwen3.5 arxitekturasidan boshlab lokal inferensni amalga oshirishga qaratilgan. Yangi funksiyani ishga tushirish uchun Hub orqali model identifikatori va fayl nomini ko‘rsatishning o‘zi kifoya qiladi.
Ushbu yangi imkoniyatlar nafaqat GGUF formatini, balki boshqa turdagi modellar va multimodal arxitekturalarni ham qo‘llab-quvvatlash uchun yo‘l ochadi. Python va PyTorch muhitida ishlovchi maxsus yadrolar hamda optimizatsiyalar tezkorlikni ta'minlaydi.
Asosiy faktlar
- Transformers kutubxonasi GGUF formatidagi modellarni to‘g‘ridan-to‘g‘ri qo‘llab-quvvatlay boshladi.
- Boshlang‘ich e’tibor Apple Silicon qurilmalarida Qwen3.5 arxitekturasiga qaratilgan.
- GGUF fayllari model vazni va metama'lumotlarni, jumladan tokenizator ma'lumotlarini bitta faylda jamlaydi.
- Yangi integratsiya orqali foydalanuvchilar transformers serve yordamida OpenAI-ga mos keluvchi API'dan foydalanishlari mumkin.
Nega muhim?
Mazkur yangilanish dasturchilar va tadqiqotchilarga o‘z shaxsiy kompyuterlarida yirik sun’iy intellekt modellarini samarali hamda qulay tarzda ishlatish imkonini beradi. Bu esa lokal sun’iy intellekt vositalarining yanada ommalashishiga xizmat qiladi.
Manba
Hugging Face (huggingface.co)
“Transformers now runs llama.cpp quants”
Asl maqolani o'qish →Ushbu matn asl maqolaning qisqa mazmuni bo'lib, sun'iy intellekt yordamida o'zbek tilida tayyorlandi. Batafsil ma'lumot va to'liq matn uchun asl manbaga murojaat qiling.
