Naglunsad ang OpenAI ng isang AI tool upang matukoy ang child sexual abuse material at AI-generated content
Nagkaroon ang OpenAI ng isang bagong AI-powered classification tool na idinisenyo upang ma-detect ang child sexual abuse material (CSAM), kabilang ang mga imahe na binubuo ng artipisyal na katalinuhan. Binabanggit ng tool ang mga visual cues upang matukoy ang mga dati nang hindi na-detect na child abuse images at nagbibigay ng mga iskor upang prayoridad ang content para sa mga human review team. Layunin ng teknolohiyang ito na ma-streaming ang pagkilala sa mga ilegal na materyal at tulungan ang mga security organization sa kanilang mga pagsisikap na labanan ang digital abuse.
Mga resulta ng pagbubuo at pagsusuri ng kagamitan
Ang tool ay binuo sa tulong mula sa National Center for Missing & Exploited Children (NCMEC) na nakabase sa Estados Unidos. Ipinapakita ng internal testing na isinagawa ng OpenAI na maaaring bawasan ng tool ang bilang ng mga imahe na may flagship para sa manual review ng 48% nang walang malaking epekto sa mga kakayahan ng deteksyon. Ang pagbabawas na ito sa manual workload ay nagpapahintulot sa mga human review team na magpokus sa mga pinakamakritikal na kaso na kinilalang ng sistema.
Pinatunayan pa ng external testing ang pagiging epektibo ng classification system. Kinompirmar ng pagsusuri ng fal.ai na 72% ng mga imahe ang nakalaan bilang mapag-iisip na may naunang hindi kilalang abusive material. Bukod dito, ipinakita ng mga pagsusuri sa SafetyKit na kinilalang 90% ng mga naka-test cases, na kinabibilangan ng mga sexualized descriptions ng mga bata sa mga cartoon at animation. Ipinapahiwatig ng mga resultang ito na ang tool ay may kakayahang madeteksi ang kumplikadong mga uri ng pag-aabuso na maaaring magpasa ng mga tradisyunal na metodo ng deteksyon.
Mga hakbang sa kaligtasan at pagpapatupad ng OpenAI
Nagpapatupad ang OpenAI ng mga bagong hakbang sa kaligtasan sa loob ng ChatGPT upang maiwasan ang henerasyon at access ng ilegal na content. Nagpapakilala ang kumpanya ng mga babala para sa mga user na sinusubukan na ma-access ang abuse content at gagawin ang pagwala sa mga flagged chats. Ang mga hakbang na ito ay bahagi ng mas malawak na pagsisikap na matiyak na ang mga Lumilikhang AI models ay hindi magpadali sa paglikha o pag-distribusyon ng mga nakaraang materyal.
Nakatakda ang kumpanya ng isang istriktong patakaran para sa mga user na lumabag sa mga safety guide na ito. Ang mga paglabag sa ChatGPT ay magreresulta sa 24-oras na suspensyon ng access. Para sa mga user na paulit-ulit na naglalabag, ang mga resulta ay maaaring kabilang sa mga mas mahabang restriksyon, pagsara ng account, o pag-ulat sa mga awtoridad. Ang mga disciplinary action na ito ay naglalayong labanan ang paggamit ng AI para sa mga ilegal na aktibidad.
Suporta at distribusyon ng mga developer
Upang suportahan ang mas malawak na tech ecosystem, inilabas ng OpenAI ang tool na ito para sa libreng kumpirmahin ang mga organisasyon sa pamamagitan ng application programming interface (API) nito. Binibigyang-diin nito ang iba pang mga platform at mga developer na i-integrate ang mga advanced detection capabilities sa kanilang mga sariling sistema. Sa pamamagitan ng pagbibigay ng teknolohiya sa pamamagitan ng isang API, layunin ng OpenAI na lumikha ng isang standardized na paraan para sa pagkilala at pag-ulat ng mga abuse material sa iba't ibang digital environment.
Bukod dito, naglabas ang OpenAI ng mga giya upang tulungan ang mga developer sa pagdetek at pag-ulat ng mga abusive material. Nagbibigay ang mga panuntunang ito ng mga teknikal at procedural framework upang tulungan ang mga software engineer at platform operator na mapanatili ang mga safety standard. Ang inisyatibong ito ay kumakatawan sa isang malaking hakbang sa pagsisikap ng industriya na pamahalaan ang mga panganib na may kaugnayan sa AI-generated content at ang paglago ng digital child abuse material.
Isinulat ang artikulong ito sa tulong ng AI mula sa iba't ibang ulat ng balita at sinusuri ng aming mga editor alinsunod sa aming mga prinsipyong editoryal. Mga Pamantayang Pang-editoryal · Tip at Pakikipag-ugnayan
Mga komento 0