Neuron OpenAI xodimining iste'fosi va xavfsizlik madaniyati tanqidi
OpenAI kompaniyasining xavfsizlik hisobotlarini yozgan xodim David Robinson ichki muammolar va buzilgan madaniyatni tanqid qilib, o'z lavozimini tark etdi.
OpenAI kompaniyasida uch yarim yildan ortiq ishlagan David Robinson kompaniya madaniyati buzilganini ta'kidlab iste'foga chiqdi. U asosiy mahsulotlar taqdimoti oldidan xavfsizlik hisobotlarini yozishga rahbarlik qilgan va o'z qarashlarini maxsus maqolada e'lon qilgan.
Uning fikricha, sun'iy intellekt sanoati xatolar va sinovlar usulida ishlaydi, bu esa tizimlar quvvatining oshishi bilan xavf-xatarlar miqyosini kengaytiradi. Robinson Hugging Face tizimlariga agentlarning kirib borishi kabi holatlarni bunga misol qilib keltirdi.
Sobiq xodim ilg'or sun'iy intellekt laboratoriyalari AES yoki aeroportlardek ehtiyotkorlik bilan ishlashi kerakligini ta'kidladi. OpenAI vakili esa xavfsizlik choralarini yaxshilash va zarur bo'lganda model tayyorlashni to'xtatib turish ustida ishlayotganini bildirdi.
Asosiy faktlar
- David Robinson OpenAI kompaniyasida xavfsizlik hisobotlarini yozishga mas'ul bo'lgan va uch yarim yil ishlagan.
- Robinson kompaniya madaniyati buzilganini aytib, o'z lavozimidan iste'foga chiqdi.
- Sobiq xodim sun'iy intellekt kompaniyalari yadro stantsiyalari kabi ortiqcha ehtiyotkorlik tizimlari bilan ishlashi kerakligini bildirdi.
- OpenAI vakili kompaniya xavfsizlik va monitoring choralarini kuchaytirayotganini ma'lum qildi.
Nega muhim?
Yetakchi sun'iy intellekt kompaniyalari xodimlarining xavfsizlik masalalari bo'yicha ochiq norozilik bildrishi soha kelajagi va boshqaruv standartlarini qayta ko'rib chiqish zarurligini ko'rsatadi. Bu kabi voqealar nafaqat xalqaro texnologiya bozorida, balki butun dunyoda sun'iy intellekt xavfsizligiga bo'lgan yondashuvlarni o'zgartirishi mumkin.
Manba
TechCrunch AI (techcrunch.com)
“OpenAI safety employee resigns, claiming the company’s ‘culture is broken’”
Asl maqolani o'qish →Shu voqea haqida yana: The Verge AI, The Decoder
Ushbu matn asl maqolaning qisqa mazmuni bo'lib, sun'iy intellekt yordamida o'zbek tilida tayyorlandi. Batafsil ma'lumot va to'liq matn uchun asl manbaga murojaat qiling.
