Neuron Google tadqiqotchilari sun'iy intellekt agentlarini sinovdan o'tishni yodlab olishdan himoya qilishdi
Google Cloud tadqiqotchilari sun'iy intellekt agentlarining rekursiv o'z-o'zini takomillashtirish jarayonida test vazifalarini yodlab olishining oldini oluvchi yangi usulni taqdim etishdi.
Zamonaviy sun'iy intellekt agentlari til modelini ko'rsatmalar, ish jarayonlari va xotiradan iborat maxsus tizim yordamida boshqariladi. Oxirgi yillardagi muvaffaqiyatlar yangi modellardan ko'ra ko'proq ana shu tizimni takomillashtirish evaziga qo'lga kiritilmoqda.
Biroq sun'iy intellekt o'z muhitini yaxshilashga harakat qilganda, u cheklangan sinov vazifalarini yodlab olishga moyil bo'ladi. Natijada agent mashg'ulot vazifalarida yuqori natija ko'rsatsa-da, yangi va ko'rilmagan vazifalarda uning samaradorligi pasayib ketadi.
Google tadqiqotchilari ishlab chiqqan RRSI deb nomlangan yangi yondashuv o'zgarishlar miqdorini cheklash va tanqidiy baholash orqali bu muammoni hal qiladi. Sinovlar davomida ushbu usul agentning yangi vazifalardagi natijalarini yaxshilash bilan birga, hisoblash xarajatlarini ham qisqartirgani ma'lum bo'ldi.
Asosiy faktlar
- Google Cloud AI Research va bir nechta universitetlar olimlari yangi optimallashtirish usulini ishlab chiqishdi.
- Yangi usul agentlarning test vazifalarini yodlab olishini oldini olib, hisoblash xarajatlarini kamaytiradi.
- RRSI usuli sakkizta turli test yo'nalishlarida sinovdan o'tkazildi.
- Yondashuv agentning ko'rilmagan vazifalardagi natijalarini yaxshilab, tokenlar sarfini qisqartirdi.
Nega muhim?
Sun'iy intellekt agentlarining mustaqil ravishda o'zini yaxshilashi kelajakdagi dasturiy ta'minotlar va avtomatlashtirilgan tizimlar uchun muhim ahamiyatga ega. Ushbu tadqiqot agentlarning tor doiradagi testlarga moslashib qolishini oldini olib, ularning real hayotdagi turli kutilmagan vazifalarda ham samarali ishlashini ta'minlashga yordam beradi.
Manba
The Decoder (the-decoder.com)
“Google researchers find a way to keep self-improving AI agents from memorizing their tests”
Asl maqolani o'qish →Ushbu matn asl maqolaning qisqa mazmuni bo'lib, sun'iy intellekt yordamida o'zbek tilida tayyorlandi. Batafsil ma'lumot va to'liq matn uchun asl manbaga murojaat qiling.
