Neuron Oddiy kompyuterda yirik sun'iy intellekt modelini ishga tushirish imkoni yaratildi
Strata vositasi yordamida o'yin kompyuterlarida yirik sun'iy intellekt modellarini ishga tushirish mumkin bo'ldi.
Odatda katta hajmdagi serverlarni talab qiladigan Qwen3.8-Flash-Next nomli 125 milliard parametrlik sun'iy intellekt modeli endilikda oddiy o'yin kompyuterlarida ham ishlay oladi. Buni ta'minlovchi Strata dasturi Windows va Linux operatsion tizimlarini qo'llab-quvvatlaydi hamda ochiq kodli hisoblanadi.
Dastur foydalanuvchining video kartasi va xotirasini tekshirib, mos modelni avtomatik ravishda tanlaydi va o'rnatadi. Ma'lumotlarning barchasi foydalanuvchining shaxsiy kompyuterida qoladi va hech qayerga yuborilmaydi.
Maxsus o'rnatuvchi yordamida jarayonni oson amalga oshirish mumkin bo'lib, u NVIDIA va AMD grafik kartalari bilan ishlaydi. Bir nechta videokartalar modelni birgalikda taqsimlab ishlatishi ham mumkin.
Asosiy faktlar
- Qwen3.8-Flash-Next modeli 125 milliard parametrga ega yirik sun'iy intellekt hisoblanadi.
- Strata dasturi 12 GB yoki undan ortiq xotiraga ega NVIDIA va AMD grafik kartalarida ishlaydi.
- Modelni ishga tushirish uchun taxminan 70 GB hajmda fayl yuklab olinadi.
- Dastur MIT litsenziyasi asosida bepul va ochiq kodli tarzda taqdim etiladi.
Nega muhim?
Ushbu texnologiya qimmatbaho server resurslarisiz ham yirik sun'iy intellekt modellaridan foydalanish imkoniyatini kengaytiradi. Bu esa o'zbekistonlik dasturchilar va tadqiqotchilarga o'z shaxsiy kompyuterlarida sun'iy intellekt vositalarini xavfsiz va bepul sinab ko'rish yo'lini ochadi.
Manba
HackerNews (github.com)
“Run Qwen 3.8 Flash Next (125B) on consumer hardware (RTX 4090) at 100T/s”
Asl maqolani o'qish → · HackerNews muhokamasiUshbu matn asl maqolaning qisqa mazmuni bo'lib, sun'iy intellekt yordamida o'zbek tilida tayyorlandi. Batafsil ma'lumot va to'liq matn uchun asl manbaga murojaat qiling.
