Neuron Microsoft rahbari sun'iy intellekt uchun "favqulodda tormoz" qo'llashni taklif qildi
Microsoft rahbari sun'iy intellekt modellarida xavfsizlikni ta'minlash uchun favqulodda to'xtatish mexanizmlarini joriy etishga chaqirdi.
Microsoft bosh direktori X ijtimoiy tarmog'ida e'lon qilgan bayonotida ilg'or sun'iy intellekt xavflari va ularga qarshi kurashish yo'llarini muhokama qildi. U sun'iy intellektni faqat qabul qilinadigan yoki rad etiladigan qora quti sifatida ko'rish davri o'tganini ta'kidladi.
Ushbu sohada shaffoflikni oshirish uchun modellarni kuzatish, mustaqil auditdan o'tkazish va insidiyentlar haqida o'z vaqtida xabar berish muhimligi ta'kidlandi. Shuningdek, har qanday modelni boshidan buzilgan deb hisoblab, uni nazorat ostida saqlash zarurligi aytildi.
Taklif qilinayotgan chora-tadbirlar qatoriga vakolatli shaxs tomonidan model ishini istalgan vaqtda to'xtatish yoki pauza qilish imkonini beruvchi favqulodda tormoz tizimini yaratish kiradi.
Asosiy faktlar
- Microsoft rahbari sun'iy intellekt modellariga favqulodda tormoz o'rnatishni talab qildi.
- Modellarni "qora quti" sifatida qabul qilmasdan, ularning harakatlarini kuzatish va shaffof qilish kerak.
- Vakolatli shaxslar jarayon davomida modelni to'xtatish yoki o'chirish imkoniyatiga ega bo'lishi lozim.
Nega muhim?
Sun'iy intellekt texnologiyalarining jadal rivojlanishi xavfsizlik va shaffoflik masalalarini birinchi o'ringa olib chiqmoqda. Bunday mexanizmlar kelgusida sun'iy intellekt tizimlarini global miqyosda nazorat qilish standartlarini belgilashda muhim ahamiyat kasb etadi.
Manba
The Verge AI (theverge.com)
“Satya Nadella says we should assume all AI models are ‘compromised’”
Asl maqolani o'qish →Shu voqea haqida yana: HackerNews
Ushbu matn asl maqolaning qisqa mazmuni bo'lib, sun'iy intellekt yordamida o'zbek tilida tayyorlandi. Batafsil ma'lumot va to'liq matn uchun asl manbaga murojaat qiling.
