Telegram
HackerNews·

Redis yaratuvchisidan yirik tilli modellarni lokal ishga tushiruvchi ds4 dvigateli

Redis asoschisi tomonidan yaratilgan yangi ds4 C-infelekt dvigateli foydalanuvchilarga yirik tilli modellarni o'z qurilmalarida ishga tushirish imkonini beradi.

ModellarDasturlash va agentlar
Redis yaratuvchisidan yirik tilli modellarni lokal ishga tushiruvchi ds4 dvigateli
Rasm: dwarfstar.sh

Redis muallifi tomonidan taqdim etilgan DwarfStar 4 (ds4) yuqori xotiraga ega Mac, CUDA hamda ROCm qurilmalari uchun mo'ljallangan tor doiradagi C infelekt dvigatelidir. Ushbu tizim matn va vizual modellarni, mahalliy API interfeyslarini hamda buyruqlar satrini yagona stekda jamlaydi.

Mazkur dasturiy ta'minot DeepSeek V4 va V4.1 Flash, GLM 5.x hamda Qwen3.8 Flash Next kabi mashhur modellarni qo'llab-quvvatlaydi. Umumiy GGUF formatidagi yugurtirgichlardan farqli o'laroq, ds4 maxsus tanlangan modellar oilasini oxirigacha sinovdan o'tkazadi.

Dvigatel ichida CLI, HTTP API va mahalliy agent mavjud bo'lib, ular bir xil model holatini va keshni bo'lishadi. Shuningdek, uzun prefikslarni SSD ga saqlash va prompt xeshlari orqali qayta tiklash imkoniyati taqdim etilgan.

ds4-server OpenAI va Anthropic uslubidagi API interfeyslarini qo'llab-quvvatlagani sababli, mahalliy kod yozish agentlarini o'z kompyuteringizga ulash imkonini beradi. Loyiha MIT litsenziyasi asosida tarqatiladi.

Asosiy faktlar

  • DwarfStar 4 (ds4) — yuqori xotirali Mac, CUDA va ROCm qurilmalari uchun C infelekt dvigateli.
  • Qo'llab-quvvatlanadigan modellar qatoriga DeepSeek V4 va V4.1 Flash, GLM 5.x hamda Qwen3.8 kiradi.
  • Tizim CLI, mahalliy HTTP API va ds4-agent interfeyslarini o'z ichiga oladi.
  • ds4-server OpenAI va Anthropic API standartlarini qo'llab-quvvatlaydi.
  • Loyiha MIT litsenziyasi ostida taqdim etilgan.

Nega muhim?

O'zbekistondagi dasturchilar va tadqiqotchilar uchun yirik tilli modellarni bulutli xizmatlarga bog'lanmasdan, to'g'ridan-to'g'ri o'z lokal kompyuterlarida xavfsiz va samarali boshqarish imkoniyati ochiladi. Bu maxfiylikni saqlash hamda internet tezligiga qaram bo'lmasdan sun'iy intellekt agentlari bilan ishlashni qulaylashtiradi.

Manba

HackerNews (dwarfstar.sh)

“From the creator of Redis; run LLM locally with ds4”

Asl maqolani o'qish → · HackerNews muhokamasi

Ushbu matn asl maqolaning qisqa mazmuni bo'lib, sun'iy intellekt yordamida o'zbek tilida tayyorlandi. Batafsil ma'lumot va to'liq matn uchun asl manbaga murojaat qiling.

O'xshash yangiliklar