Neuron OpenAI matnli suv belgisining cheklovlari oshkor bo‘ldi
OpenAI Yevropa Ittifoqining qoidalariga javoban taqdim etgan matnli suv belgisi kichik o‘zgarishlar va tahrirlarga bardosh bera olmayapti.
OpenAI kompaniyasi Yevropa Ittifoqining sun'iy intellekt qoidalariga moslashish maqsadida maxfiy kalit yordamida aniqlanuvchi matnli suv belgisini ishlab chiqdi. Ushbu statistikka asoslangan yondashuv so‘z tanlovlari orqali yaratilgan matnlarni belgilashga mo‘ljallangan edi. Biroq mutaxassislar ushbu tizimning zaif tomonlarini o‘z ichiga olgan sinov laboratoriyasini yaratishdi.
Tadqiqot natijalariga ko‘ra, matndagi so‘zlarning atigi o‘n foizi sinonimlarga almashtirilsa, suv belgisini aniqlash darajasi keskin pasayib ketadi. Agar o‘zgarishlar yigirma besh foizga yetkazilsa, belgini aniqlash ehtimoli deyarli nolga yaqinlashadi. Shuningdek, matematika va qisqa matnlar ham suv belgisi bilan to‘liq qamrab olinmaydi.
Mutaxassislar ta'kidlashicha, suv belgisining yo‘qligi matn inson tomonidan yozilganini mutlaqo isbotlay olmaydi. Ushbu holat sun'iy intellekt muallifligini aniqlovchi vositalarga tayanuvchilar uchun muhim ogohlantirish bo‘lib xizmat qiladi.
Asosiy faktlar
- OpenAI Yevropa Ittifoqining kelib chiqish qoidasiga javoban matnli suv belgisini taqdim etdi.
- Matndagi so‘zlarning 10 foizi almashtirilsa, aniqlash darajasi 92 foizdan 66 foizga tushadi.
- So‘zlarning 25 foizi o‘zgartirilganda aniqlash ko‘rsatkichi 17 foizgacha pasayadi.
- Suv belgisining yo‘qligi matn inson tomonidan yozilganini isbotlamaydi.
Nega muhim?
Sun'iy intellekt tomonidan yaratilgan kontentni aniqlash va farqlash masalasi O‘zbekiston va butun dunyo auditoriyasi uchun dolzarb hisoblanadi. Ushbu texnik cheklovlar sun'iy intellekt muallifligini tekshiruvchi vositalarga to‘liq tayanib bo‘lmasligini ko‘rsatadi.
Manba
r/artificial (reddit.com)
“OpenAI's text watermark can't prove you didn't write something. I built a lab where you can watch it die.”
Asl maqolani o'qish →Ushbu matn asl maqolaning qisqa mazmuni bo'lib, sun'iy intellekt yordamida o'zbek tilida tayyorlandi. Batafsil ma'lumot va to'liq matn uchun asl manbaga murojaat qiling.
