Neuron Sun'iy intellekt agentlaridagi yangi zaiflik xavfi ma'lum bo'ldi
Tadqiqotchilar sun'iy intellekt agentlarining o'zaro muloqot protokolidagi bo'shliqlar zararli ko'rsatmalarni tarqatishini aniqlashdi.
Millionlab tashkilotlarda sun'iy intellekt agentlarining joriy etilishi hujumchilar uchun ma'lumotlarni o'g'irlash kabi xavfli harakatlarni amalga oshirishga imkoniyat yaratmoqda. Oxirgi oylarda bir nechta tashkilotlar ichki tarmoqdagi bir agentdan boshqasiga zararli ko'rsatmalarni tarqatuvchi zaifliklarni aniqlashdi. Ushbu usul ma'lum bir agentga qaratilgan prompt inyeksiyasining maxsus shakli hisoblanadi.
Mustaqil tadqiqotchi Syed Anas Mohiuddin Model Context Protocol (MCP) deb nomlanuvchi protokoldagi ishonch bo'shliqlarini sinovdan o'tkazdi. Ushbu standart ichki tarmoqdagi ilovalar va agentlarning o'zaro muloqot qilishiga xizmat qiladi. Ko'pgina maxsus agentlar zararli oqibatlarni yumshatuvchi himoya vositalariga ega emasligi aniqlandi.
Mutaxassislarning ta'kidlashicha, tashkilotlar agent arxitekturasini yaratishga shoshilib, nolinchi ishonch tamoyilini chetlab o'tishgan. Protokollar orasidagi ishonch bo'shliqlari hujumchilarga tarmoq bo'ylab harakatlanish imkonini bermoqda. Ushbu muammolarni bartaraf etish uchun kelgusida xavfsizlik choralarini kuchaytirish talab etiladi.
Asosiy faktlar
- Google va boshqa tashkilotlar ichki agentlar orasida zararli ko'rsatmalarni tarqatuvchi zaifliklarni tan olishdi.
- Model Context Protocol (MCP) sun'iy intellekt ilovalari va agentlarining o'zaro muloqot standartidir.
- Tadqiqotchi Syed Anas Mohiuddin agentlar orasidagi ishonch bo'shliqlarini isbotlovchi hujumlarni sinovdan o'tkazdi.
- Google o'zining MCP vositalaridagi xavfsizlik xatolarini IP diapazonlari ro'yxati yordamida bartaraf etdi.
Nega muhim?
Sun'iy intellekt agentlari va avtomatlashtirilgan tizimlar keng tarqalayotgan bir paytda, ushbu xavfsizlik bo'shliqlari korporativ ma'lumotlarning sizib chiqishiga sabab bo'lishi mumkin. O'zbekistonda ham raqamli texnologiyalar va sun'iy intellekt yechimlarini joriy etayotgan tashkilotlar xavfsizlik va nolinchi ishonch tamoyillariga alohida e'tibor qaratishlari lozimligini ko'rsatadi.
Manba
Ars Technica AI (arstechnica.com)
“MCP for agent-to-agent comms may be the riskiest protocol you've never heard of”
Asl maqolani o'qish →Ushbu matn asl maqolaning qisqa mazmuni bo'lib, sun'iy intellekt yordamida o'zbek tilida tayyorlandi. Batafsil ma'lumot va to'liq matn uchun asl manbaga murojaat qiling.
