Neuron Nvidia dasturlash agentlari xarajatlarini qisqartiruvchi tizimni taqdim etdi
Nvidia tadqiqotchilari sun'iy intellekt agentlarining boshqaruv qatlamini optimallashtirib, token sarfini deyarli yarmiga kamaytiradigan SoL-Pi tizimini yaratishdi.
Sun'iy intellekt agentlari uzoq muddat davomida mustaqil ishlaganda, zanjirli fikrlash va fikr-mulohazalar tufayli token sarfi keskin oshib ketadi. Nvidia olimlari bu muammoni to'g'ridan-to'g'ri model darajasida emas, balki model bilan uning muhiti o'rtasidagi boshqaruv qatlamini optimallashtirish orqali hal qilishdi.
SoL-Pi deb nomlangan yangi tizim tadqiqot agenti yordamida ijro etilish jarayonlarini tahlil qiladi va avtomatik ravishda yaxshilanishlarni taklif etadi. Ushbu yondashuv to'rtta asosiy mexanizmni hosil qilib, kontekstni qisqartirish, harakatlarni birlashtirish va xatolarni boshqa arzonroq modelga yo'naltirish imkonini beradi.
Sinov natijalariga ko'ra, eng samarali variant token sarfini 49 foizgacha qisqartirib, asl poydevor samaradorligining katta qismini saqlab qoldi. Shuningdek, tizim joriy API narxlaridan kelib chiqqan holda soatiga sezilarli darajada moliyaviy tejamkorlikka erishishni ta'minlaydi.
Asosiy faktlar
- Nvidia tadqiqotchilari tomonidan yaratilgan SoL-Pi tizimi kodlash agentlarining token sarfini deyarli yarmiga kamaytiradi.
- Tizim harakatlarni birlashtirish va kontekstni tozalash kabi to'rtta samarali mexanizmni ishlab chiqdi.
- Eng samarali konfiguratsiya asl Pi ko'rsatkichining 93,7 foizini saqlagan holda 49 foiz kamroq token sarflaydi.
- Tizim har bir ish soati uchun taxminan 4,36 dollardan 13,50 dollargacha xarajatlarni tejash imkonini beradi.
Nega muhim?
Sun'iy intellekt agentlaridan foydalanish ko'lami kengayib borayotgan bir paytda, yuqori xarajatlar va token sarfi asosiy to'siqlardan biriga aylanmoqda. Ushbu texnologiya ishlab chiquvchilar va kompaniyalarga resurslarni tejash hamda agentlar samaradorligini oshirish imkonini beradi.
Manba
The Decoder (the-decoder.com)
“Nvidia's SoL-Pi system cuts coding agent token usage nearly in half by optimizing the harness”
Asl maqolani o'qish →Ushbu matn asl maqolaning qisqa mazmuni bo'lib, sun'iy intellekt yordamida o'zbek tilida tayyorlandi. Batafsil ma'lumot va to'liq matn uchun asl manbaga murojaat qiling.
