OpenAI балалардың жыныстық зорлық-зомбылығын анықтауға арналған жасанды интеллект құралын іске қосты
OpenAI жасанды интеллект жасаған суреттерді қоса алғанда, балалардың жыныстық зорлық-зомбылығын (CSAM) анықтауға арналған жаңа жасанды интеллектпен жұмыс істейтін жаңа классификациялау құралын әзірледі. Бұл құрал бұрын анықталмаған балаларға қатысты теріс суреттерді анықтау үшін көрнекі көрсеткіштерді талдайды және адам шолу командалары үшін мазмұнға басымдық беру үшін ұпайлар береді. Бұл технология заңсыз материалдарды сәйкестендіруді реттеуге және қауіпсіздік ұйымдарына цифрлық зорлық-зомбылықпен күресудегі күш-жігерінде көмектесуге бағытталған.
Құрал әзірлеу және сынақ нәтижелері
Бұл құрал АҚШ-та орналасқан жоғалған және пайдаланылған балалардың Ұлттық орталығының (NCMEC) көмегімен әзірленген. OpenAI жүргізген ішкі тестілеу көрсеткендей, бұл құрал қолмен қарау үшін таңбаланған суреттердің санын 48%-ға азайтуға мүмкіндік береді, бұл анықтау мүмкіндіктеріне айтарлықтай әсер етпейді. Бұл қолмен жұмыс жүктемесінің азаюы жүйенің анықталған ең маңызды жағдайларына назар аударуға мүмкіндік береді.
Сыртқы сынақтар классификациялау жүйесінің тиімділігін одан әрі растады. Fal.ai басылымының тестілеуі жоғары күдікті суреттердің 72%-ында бұрын анықталмаған қорлау материалдары бар екенін растады. Сонымен қатар, SafetyKit сынақтары құралдың мультфильмдер мен анимациялардағы балалардың жыныстық сипаттамаларын қамтитын сынақ жағдайларының 90%-ын анықтағанын көрсетті. Бұл нәтижелер құралдың дәстүрлі анықтау әдістерін айналып өтуі мүмкін күрделі теріс пайдалану түрлерін анықтауға қабілетті екенін көрсетеді.
OpenAI қауіпсіздік шаралары және орындалуы
OpenAI заңсыз мазмұнның пайда болуына және оған қолжетімділікке жол бермеу үшін ChatGPT ішіндегі жаңа қауіпсіздік шараларын іске асыруда. Компания қорқытатын мазмұнға қол жеткізуге тырысатын пайдаланушыларға ескертулер енгізіп, жалаушалы чаттарды жоюды жүзеге асырады. Бұл шаралар жасанды интеллект модельдерінің зиянды материалдарды құруға немесе таратуға ықпал етпеуін қамтамасыз ету үшін кең ауқымды күш-жігердің бір бөлігі болып табылады.
Компания осы қауіпсіздік ережелерін бұзған пайдаланушылар үшін қатаң тәртіптік саясат орнатты. ChatGPT-дегі құқық бұзушылық 24 сағаттық кіруді тоқтатуға әкеп соқтырады. Қайталанатын бұзушылықтарды жасаған пайдаланушылар үшін салдарларға ұзағырақ шектеулер, есептік жазбаны жабу немесе билік органдарына есеп беру жатады. Бұл тәртіптік шаралар AI-ді заңсыз іс-әрекеттер үшін пайдалануды тоқтатуға арналған.
Әзірлеушілерді қолдау және тарату
Кең технологиялық экожүйені қолдау үшін OpenAI бұл құралды қолданбалы бағдарламалау интерфейсі (API) арқылы расталған ұйымдарға тегін таратады. Бұл басқа платформалар мен әзірлеушілерге өз жүйелеріне озық анықтау мүмкіндіктерін біріктіруге мүмкіндік береді. Технологияны API арқылы ұсына отырып, OpenAI әртүрлі цифрлық орталарда қорқытатын материалдарды анықтау және есепке алудың стандартталған әдісін жасауды мақсат етеді.
Сонымен қатар, OpenAI әзірлеушілерге қорқыту материалдарын анықтауға және хабарлауға көмектесу үшін нұсқаулықтар жариялады. Бұл нұсқаулықтар бағдарламалық жасақтама инженерлері мен платформа операторларына қауіпсіздік стандарттарын сақтауға көмектесу үшін техникалық және рәсімдік негіздерді қамтамасыз етеді. Бұл бастама индустрияның жасанды интеллектпен жасалған мазмұнмен байланысты тәуекелдерді басқаруға және цифрлық балаларды теріс пайдалану материалдарын көбейтуге бағытталған маңызды қадам болып табылады.
Бұл мақала бірнеше жаңалықтар есебі негізінде жасанды интеллект көмегімен жазылған және біздің редакциялық принциптеріміз бойынша редакторларымыз тарапынан тексерілген. Редакциялық стандарттар · Ақпарат беру және байланыс
Пікірлер 0