OpenAI បើកឧបករណ៍ AI ដើម្បីស្វែងរកសម្ភារៈរំលោភបំពានផ្លូវភេទកុមារនិងមាតិកាដែលបង្កើតដោយ AI
OpenAI បានអភិវឌ្ឍឧបករណ៍ចាត់ថ្នាក់ AI-powered ថ្មីមួយដែលត្រូវបានរចនាឡើងដើម្បីរកឃើញសម្ភារៈរំលោភបំពានផ្លូវភេទកុមារ (CSAM) រួមទាំងរូបភាពដែលបង្កើតដោយបញ្ញាសិប្បនិម្មិត។ ឧបករណ៍នេះវិភាគសញ្ញាដែលមើលឃើញដើម្បីកំណត់អត្តសញ្ញាណរូបភាពរំលោភបំពានលើកុមារដែលមិនត្រូវបានរកឃើញពីមុននិងផ្តល់នូវពិន្ទុដើម្បីកំណត់អាទិភាពមាតិកាសម្រាប់ក្រុមពិនិត្យមនុស្ស។ បច្ចេកវិទ្យានេះមានបំណងធ្វើឱ្យមានភាពងាយស្រួលក្នុងការកំណត់អត្តសញ្ញាណសម្ភារៈខុសច្បាប់និងជួយដល់អង្គការសុវត្ថិភាពក្នុងកិច្ចខិតខំប្រឹងប្រែងរបស់ពួកគេក្នុងការប្រយុទ្ធប្រឆាំងនឹងការរំលោភបំពានតាមឌីជីថល។
ការអភិវឌ្ឍឧបករណ៍និងលទ្ធផលនៃការធ្វើតេស្ត
ឧបករណ៍នេះត្រូវបានបង្កើតឡើងដោយមានជំនួយពីមជ្ឈមណ្ឌលជាតិសម្រាប់កុមារដែលបាត់ខ្លួននិងត្រូវបានកេងប្រវ័ញ្ច (NCMEC) ដែលមានមូលដ្ឋាននៅសហរដ្ឋអាមេរិក។ ការធ្វើតេស្តផ្ទៃក្នុងដែលធ្វើឡើងដោយ OpenAI បង្ហាញថាឧបករណ៍នេះអាចកាត់បន្ថយចំនួនរូបភាពដែលត្រូវបានដាក់ស្លាកសម្រាប់ការពិនិត្យដោយដៃដោយ 48% ដោយគ្មានការប៉ះពាល់ដល់សមត្ថភាពនៃការរកឃើញយ៉ាងខ្លាំង។ ការកាត់បន្ថយបន្ទុកការងារដោយដៃនេះអនុញ្ញាតឱ្យក្រុមត្រួតពិនិត្យមនុស្សផ្តោតលើករណីសំខាន់ៗដែលត្រូវបានកំណត់ដោយប្រព័ន្ធ។
ការធ្វើតេស្តខាងក្រៅបានវាយតម្លៃលើប្រសិទ្ធភាពនៃប្រព័ន្ធចំណាត់ថ្នាក់។ ការធ្វើតេស្តដោយ fal.ai បានបញ្ជាក់ថា 72% នៃរូបភាពដែលត្រូវបានដាក់ស្លាកថាជាភាពសង្ស័យខ្ពស់ដែលផ្ទុកនូវសម្ភារៈរំលោភបំពានដែលមិនបានកំណត់អត្តសញ្ញាណពីមុន។ លើសពីនេះការធ្វើតេស្ត SafetyKit បានបង្ហាញថាឧបករណ៍នេះបានកំណត់ករណីដែលបានធ្វើតេស្ត90% ដែលរួមបញ្ចូលទាំងការពិពណ៌នាផ្លូវភេទរបស់កុមារក្នុងរូបថ្លុកនិងចលនា។ លទ្ធផលទាំងនេះបានបង្ហាញថាឧបករណ៍នេះមានសមត្ថភាពក្នុងការរកឃើញទម្រង់នៃការរំលោភបំពានដ៏ស្មុគស្មាញដែលអាចឆ្លងកាត់វិធីនៃការរកឃើញបែបប្រពៃណី។
OpenAI វិធានការសុវត្ថិភាពនិងការអនុវត្តន៍
OpenAI កំពុងអនុវត្តវិធានការសុវត្ថិភាពថ្មីនៅក្នុង ChatGPT ដើម្បីការពារការបង្កើតនិងចូលប្រើមាតិកាខុសច្បាប់។ ក្រុមហ៊ុនកំពុងដាក់ការព្រមានដល់អ្នកប្រើប្រាស់ដែលកំពុងព្យាយាមចូលប្រើមាតិការំលោភបំពាននិងនឹងធ្វើការលុបចោលការជជែកកំសាន្តដែលមានស្លាក។ វិធានការទាំងនេះគឺជាផ្នែកមួយនៃកិច្ចខិតខំប្រឹងប្រែងយ៉ាងទូលំទូលាយដើម្បីធានាថាម៉ូដែល AI generative មិនសម្របសម្រួលការបង្កើតឬចែកចាយសម្ភារៈបង្កគ្រោះថ្នាក់នោះទេ។
ក្រុមហ៊ុនមានគោលនយោបាយអនុវត្តយ៉ាងតឹងរ៉ឹងចំពោះអ្នកប្រើប្រាស់ដែលរំលោភលើគោលការណ៍សុវត្ថិភាពទាំងនេះ។ ការរំលោភបំពានក្នុង ChatGPT នឹងនាំឱ្យមានការផ្អាកការចូលប្រើរយៈពេល 24 ម៉ោង។ សម្រាប់អ្នកប្រើប្រាស់ដែលប្រព្រឹត្តបទល្មើសម្តងហើយម្តងទៀតផលវិបាកអាចរួមមានការរឹតបន្តឹងបន្ថែមការបិទគណនីឬការរាយការណ៍ដល់អាជ្ញាធរ។ សកម្មភាពវិន័យទាំងនេះមានគោលបំណងដើម្បីបញ្ឈប់ការប្រើប្រាស់របស់ AI សម្រាប់សកម្មភាពខុសច្បាប់។
ការគាំទ្រនិងការចែកចាយរបស់អ្នកអភិវឌ្ឍន៍
ដើម្បីគាំទ្រដល់ប្រព័ន្ធអេកូឡូស៊ីបច្ចេកវិទ្យាទូលំទូលាយ OpenAI កំពុងចេញផ្សាយឧបករណ៍នេះដោយឥតគិតថ្លៃដល់អង្គភាពដែលបានផ្ទៀងផ្ទាត់តាមរយៈចំណុចប្រទាក់កម្មវិធីកម្មវិធីរបស់ខ្លួន (API)។ នេះអនុញ្ញាតឱ្យ platforms និង developers ផ្សេងទៀតបញ្ចូលសមត្ថភាពនៃការរកឃើញកម្រិតខ្ពស់ទៅក្នុងប្រព័ន្ធរបស់ពួកគេផ្ទាល់។ តាមរយៈការផ្តល់បច្ចេកវិទ្យាតាមរយៈ API OpenAI មានគោលបំណងបង្កើតវិធីសាស្រ្តស្តង់ដារសម្រាប់ការកំណត់អត្តសញ្ញាណនិងរាយការណ៍សម្ភារៈរំលោភបំពាននៅទូទាំងបរិស្ថានឌីជីថលផ្សេងៗ។
លើសពីនេះ OpenAI បានបោះពុម្ពផ្សាយគោលការណ៍ណែនាំដើម្បីជួយអ្នកអភិវឌ្ឍន៍ក្នុងការរកឃើញនិងរាយការណ៍សម្ភារៈរំលោភបំពាន។ គោលការណ៍ណែនាំទាំងនេះផ្តល់នូវក្របខ័ណ្ឌបច្ចេកទេសនិងនីតិវិធីដើម្បីជួយវិស្វករកម្មវិធីនិងប្រតិបត្តិករវេទិការក្សាស្តង់ដារសុវត្ថិភាព។ គំនិតផ្តួចផ្តើមនេះតំណាងឱ្យជំហានដ៏សំខាន់ក្នុងកិច្ចខិតខំប្រឹងប្រែងរបស់ឧស្សាហកម្មក្នុងការគ្រប់គ្រងហានិភ័យដែលពាក់ព័ន្ធនឹងមាតិកាដែលបង្កើតដោយ AI និងការកើនឡើងនៃសម្ភារៈរំលោភបំពានលើកុមារតាមឌីជីថល។
អត្ថបទនេះត្រូវបានសរសេរឡើងដោយមានជំនួយពីបញ្ញាសិប្បនិម្មិត (AI) ផ្អែកលើរបាយការណ៍ព័ត៌មានជាច្រើន និងត្រូវបានត្រួតពិនិត្យដោយនិពន្ធនាយករបស់យើង ស្របតាមគោលការណ៍និពន្ធរបស់យើង។ ស្តង់ដារវិចារណកថា · ផ្តល់ព័ត៌មាន និងទំនាក់ទំនង
មតិយោបល់ 0