HackerNews·

ESP32S3 mikrokontrollerlari klasterida BitNet tili modeli ishga tushirildi

Dasturchilar kichik mikrokontrollerlar tarmog'ida 1.58-bitli til modelini taqsimlangan tartibda ishga tushirishga muvaffaq bo'lishdi.

ESP32S3 mikrokontrollerlari klasterida BitNet tili modeli ishga tushirildi
Rasm: github.com

Yangi loyiha doirasida yettita ESP32S3 mikrokontrolleridan iborat klaster yaratildi va u orqali 1.58-bitli BitNet til modeli ishga tushirildi. Tizimda vazifalar taqsimlangan bo'lib, bitta qurilma asosiy tugun vazifasini bajaradi.

Asosiy tugun matnni tokenizatsiya qilish va embedding jarayonlarini boshqaradi, qolgan tugunlar esa e'tibor qatlami hamda MLP vazifalarini bajaradi. Qurilmalar o'zaro yuqori tezlikdagi SPI Daisy-Chain protokoli orqali bog'lanadi.

Mazkur loyiha MIT litsenziyasi asosida ochiq holda taqdim etilgan. U kichik qurilmalarda ham sun'iy intellekt modellarini ishlatish imkoniyatlarini kengaytiradi.

Asosiy faktlar

  • Loyihada 7 ta ESP32S3 mikrokontrolleridan iborat klaster ishlatilgan.
  • Tarmoqda 1.58-bitli (BitNet) uchlik kvantlashga ega til modeli ishlaydi.
  • Bitta asosiy mikrokontroller tokenizatsiya va embedding vazifalarini bajaradi.
  • Qurilmalar o'rtasidagi aloqa SPI Daisy-Chain orqali amalga oshiriladi.

Nega muhim?

Bu loyiha cheklangan resurslarga ega mikrokontrollerlarda ham sun'iy intellekt modellarini taqsimlangan holda ishlatish mumkinligini ko'rsatadi. Bu esa kelajakda turli aqlli qurilmalar va IoT tizimlarida sun'iy intellekt imkoniyatlarini mahalliy darajada tatbiq etish uchun yangi yo'llarni ochadi.

Manba

HackerNews (github.com)

“ESP32S3 cluster running 1.58-bit (BitNet) Language model”

Asl maqolani o'qish → · HackerNews muhokamasi

Ushbu matn asl maqolaning qisqa mazmuni bo'lib, sun'iy intellekt yordamida o'zbek tilida tayyorlandi. Batafsil ma'lumot va to'liq matn uchun asl manbaga murojaat qiling.