OpenAI bolalar jinsiy tahdid materiallari va sun'iy intellekt tomonidan yaratilgan kontentni aniqlash uchun sun'iy intellekt vositasini ishga tushirdi
OpenAI sun'iy intellekt tomonidan ishlab chiqilgan tasvirlarni, jumladan, bolalar jinsiy zo'ravonlik materiallarini (CSAM) aniqlashga qaratilgan yangi sun'iy intellektga asoslangan tasniflash vositasini ishlab chiqdi. Ushbu vosita avval aniqlanmagan bolalarga nisbatan zo‘ravonlik tasvirlarini aniqlash uchun vizual ko‘rsatmalar tahlilini amalga oshiradi va insonlar ko‘rib chiqish jamoalari uchun kontentga ustuvorlik berish uchun ballar beradi. Ushbu texnologiya noqonuniy materiallarni aniqlashni osonlashtirishni va xavfsizlik tashkilotlariga raqamli suiiste'mol qilishga qarshi kurashishda yordam berishni maqsad qilgan.
Asboblarni ishlab chiqish va sinov natijalari
Ushbu vosita AQShda joylashgan Milliy Yo'qolgan va ishdan bo'shatilgan bolalar markazi (NCMEC) yordamida ishlab chiqilgan. OpenAI tomonidan oʻtkazilgan ichki sinovlar shuni koʻrsatadiki, vosita qoʻlda koʻrib chiqish uchun belgilangan tasvirlar sonini sezilarli darajada taʼsir qilmasdan 48% ga kamaytirishi mumkin. Qoʻlda ishlash yukining kamayishi inson koʻrib chiqish guruhlariga tizim tomonidan aniqlangan eng muhim holatlarga eʼtibor qaratish imkonini beradi.
Tashqi sinovlar tasniflash tizimining samaradorligini yanada tasdiqladi. fal.ai orqali oʻtkazilgan testlar shuni tasdiqladiki, yuqori darajada shubhali deb belgilangan tasvirlarning 72 foizi avval nomaʼlum boʻlgan haqoratli materiallardan iborat. Bundan tashqari, SafetyKit testlari vositaning sinovdan o'tgan holatlarning 90 foizini, jumladan, bolalarning multfilmlar va animatsiyalardagi jinsiy tavsiflarini aniqlaganini ko'rsatdi. Ushbu natijalar vosita an'anaviy aniqlash usullaridan oshib ketishi mumkin bo'lgan murakkab suiiste'mollik shakllarini aniqlashga qodirligini ko'rsatmoqda.
OpenAI xavfsizlik choralari va ijro etish
OpenAI noqonuniy kontentni yaratish va undan foydalanishni oldini olish uchun ChatGPT ichida yangi xavfsizlik choralarini amalga oshirmoqda. Kompaniya haqoratli kontentga kirishga urinayotgan foydalanuvchilar uchun ogohlantirishlarni taqdim etmoqda va flagmanlangan chatlarni olib tashlashni amalga oshiradi. Ushbu choralar generativ sun'iy intellekt modellari zararli moddalarni yaratish yoki tarqatishni osonlashtirmasligini ta'minlash bo'yicha keng ko'lamli harakatlarning bir qismidir.
Kompaniya ushbu xavfsizlik ko'rsatmalarini buzgan foydalanuvchilar uchun qat'iy ijro etish siyosatini o'rnatdi. ChatGPT'dagi qonunbuzarliklar 24 soatlik kirishni to'xtatib turishga olib keladi. Takroriy qoidabuzarliklar sodir etgan foydalanuvchilar uchun oqibatlar uzoqroq cheklovlar, hisob-kitoblarni yopish yoki rasmiyatlarga xabar berishni o'z ichiga olishi mumkin. Ushbu intizomiy choralar sun'iy intellektdan noqonuniy faoliyat uchun foydalanishni to'sqinlik qilishga qaratilgan.
Dasturchilarni qoʻllab-quvvatlash va taqsimlash
Keng texnologik ekotizimni qoʻllab-quvvatlash uchun OpenAI ushbu vositani oʻzining ilova dasturlash interfeysi (API) orqali tekshirilgan tashkilotlar uchun bepul chiqarmoqda. Bu boshqa platformalar va ishlab chiquvchilarga ilgʻor aniqlash imkoniyatlarini oʻz tizimlariga integratsiya qilish imkonini beradi. OpenAI texnologiyani API orqali taqdim etish orqali turli raqamli muhitlarda haqoratli materiallarni aniqlash va xabar qilish uchun standartlashtirilgan usulni yaratishni maqsad qilgan.
Bundan tashqari, OpenAI haqoratli materiallarni aniqlash va xabar qilishda ishlab chiquvchilarga yordam berish bo'yicha ko'rsatmalar e'lon qildi. Ushbu yo'riqnomalar dasturiy ta'minot muhandislari va platforma operatorlariga xavfsizlik standartlarini saqlashga yordam beradigan texnik va protsessual asoslarni taqdim etadi. Ushbu tashabbus sanoatning sun'iy intellekt tomonidan ishlab chiqilgan kontent bilan bog'liq xavflarni va raqamli bolalarga nisbatan suiiste'mol qilish materiallarini tarqatishni boshqarishdagi muhim qadamdir.
Ushbu maqola bir nechta yangiliklar xabarlaridan foydalangan holda sun'iy intellekt yordamida yozilgan va tahririyat tamoyillarimiz asosida muharrirlarimiz tomonidan ko'rib chiqilgan. Tahririyat standartlari · Xabar berish va aloqa
Sharhlar 0