Neuron Goodfire sun'iy intellekt agentlarini ichki nazorat qilish tizimini taqdim etdi
Goodfire startapi sun'iy intellekt agentlarining xavfsizligini ta'minlash va xarajatlarni qisqartirish uchun mo'ljallangan ichki monitorlarni ishga tushirdi.
Sun'iy intellekt agentlarini nazorat qilishning an'anaviy usuli qo'shimcha model yordamida har bir harakatni o'qib chiqishga asoslangan bo'lib, bu ko'pincha katta vaqt va mablag' talab qiladi. Goodfire kompaniyasi esa modelning ichki signallarini to'g'ridan-to'g'ri kuzatuvchi arzonroq yechimni taklif etdi. Ushbu monitorlar modelning o'zi bajarayotgan hisob-kitob jarayoniga tayanib ishlaydi.
Tizim aeroport xavfsizlik qoidalariga o'xshash tarzda ishlaydi: maxsus zondlar har bir qadamni tekshiradi va faqat shubhali holatlar aniqlangandagina alohida model tekshiruvga jalb etiladi. Baseten mijozlari kiberhujumlar yoki biologik qurollar bilan bog'liq xavflarni kuzatish uchun ushbu monitorlardan foydalanishi mumkin. Yangi yondashuv sinovlarda an'anaviy usullarga qaraganda ancha arzonligi va tezkorligini ko'rsatdi.
Kompaniya vakillarining ta'kidlashicha, mazkur texnologiya xavfli holatlarni oldindan aniqlashga yordam beradi. Ochiq modellarning tarqalishi sharoitida bunday himoya vositalari inference bosqichida muhim ahamiyat kasb etadi. Kelgusida mualliflar ushbu yondashuvni yanada takomillashtirishni rejalashtirmoqda.
Asosiy faktlar
- Goodfire startapi sun'iy intellekt modellarining ichki jarayonlarini kuzatuvchi yangi monitorlarni taqdim etdi.
- Tizim modelning mavjud hisob-kitoblarini qayta ishlatgani sababli xarajatlar sezilarli darajada kamaydi.
- Monitorlar Baseten platformasi mijozlari uchun mavjud bo'lib, ular xavf turlari va javob choralarini tanlashi mumkin.
- Sinov jarayonida zondlar zararli hakerlik harakatlarining 94 foizini aniqlashga muvaffaq bo'ldi.
Nega muhim?
Sun'iy intellekt agentlari avtonom tarzda uzoq vaqt ishlaganda xavfsizlik risklari va xarajatlar keskin oshadi. Ichki monitoring kabi samarali va arzon yechimlar O'zbekistondagi dasturchilar va kompaniyalarga kelgusida xavfsiz va boshqariladigan sun'iy intellekt tizimlarini yaratish hamda tatbiq etish imkonini beradi.
Manba
TechCrunch AI (techcrunch.com)
“Goodfire says its new ‘inside-out’ monitors catch rogue AI agents at a fraction of the cost”
Asl maqolani o'qish →Ushbu matn asl maqolaning qisqa mazmuni bo'lib, sun'iy intellekt yordamida o'zbek tilida tayyorlandi. Batafsil ma'lumot va to'liq matn uchun asl manbaga murojaat qiling.
