Langkau ke kandungan
Masyarakat

OpenAI melancarkan alat AI untuk mengesan bahan penderaan seksual kanak-kanak dan kandungan yang dihasilkan AI

Turkey News Pasukan editorial · · Masa membaca 7minit bacaan · Tontonan 0 ·
Utama — OpenAI telah mengeluarkan alat klasifikasi berkuasa AI baru yang direka untuk mengesan bahan penderaan seksual kanak-kanak, termasuk kandungan yang dihasilkan oleh kecerdasan buatan. Alat ini bertujuan untuk mengutamakan kandungan kesat untuk pasukan ulasan manusia.

OpenAI telah membangunkan alat klasifikasi berkuasa AI baru yang direka untuk mengesan bahan penderaan seksual kanak-kanak (CSAM), termasuk imej yang dihasilkan oleh kecerdasan buatan. Alat ini menganalisis isyarat visual untuk mengenal pasti imej penderaan kanak-kanak yang tidak dikesan sebelum ini dan menyediakan skor untuk mengutamakan kandungan untuk pasukan ulasan manusia. Teknologi ini bertujuan untuk menyelaraskan pengenalpastian bahan haram dan membantu pertubuhan keselamatan dalam usaha mereka untuk memerangi penyalahgunaan digital.

Pembangunan alat dan keputusan ujian

Alat ini dibangunkan dengan bantuan Pusat Kebangsaan Kanak-kanak Hilang & Dieksploitasi (NCMEC) yang berpangkalan di Amerika Syarikat. Ujian dalaman yang dijalankan oleh OpenAI menunjukkan alat ini boleh mengurangkan bilangan imej yang dibenderakan untuk semakan manual sebanyak 48% tanpa menjejaskan keupayaan pengesanan dengan ketara. Pengurangan beban kerja manual ini membolehkan pasukan semakan manusia memberi tumpuan kepada kes-kes yang paling kritikal yang dikenal pasti oleh sistem.

Ujian luar telah mengesahkan lagi keberkesanan sistem klasifikasi. Ujian oleh fal.ai mengesahkan bahawa 72% imej yang ditandai sebagai sangat mencurigakan mengandungi bahan yang tidak dikenali sebelum ini. Selain itu, ujian SafetyKit menunjukkan alat itu mengenal pasti 90% kes yang diuji, termasuk penerangan seksual kanak-kanak dalam kartun dan animasi. Keputusan ini menunjukkan alat ini mampu mengesan bentuk penyalahgunaan yang kompleks yang boleh memintas kaedah pengesanan tradisional.

Langkah keselamatan dan penguatkuasaan OpenAI

OpenAI sedang melaksanakan langkah-langkah keselamatan baharu dalam ChatGPT untuk menghalang penjanaan dan akses kandungan haram. Syarikat itu memperkenalkan amaran kepada pengguna yang cuba mengakses kandungan yang kasar dan akan melakukan penyingkiran sembang yang dibenderakan. Langkah-langkah ini adalah sebahagian daripada usaha yang lebih luas untuk memastikan bahawa model AI generatif tidak memudahkan penciptaan atau pengedaran bahan berbahaya.

Syarikat telah mewujudkan dasar penguatkuasaan yang ketat untuk pengguna yang melanggar garis panduan keselamatan ini. Pelanggaran dalam ChatGPT akan menyebabkan penggantungan akses 24 jam. Bagi pengguna yang melakukan pelanggaran berulang, akibatnya mungkin termasuk sekatan yang lebih lama, penutupan akaun, atau melaporkan kepada pihak berkuasa. Tindakan disiplin ini bertujuan untuk menghalang penggunaan AI bagi aktiviti haram.

Sokongan dan pengedaran pemaju

Untuk menyokong ekosistem teknologi yang lebih luas, OpenAI melepaskan alat ini secara percuma kepada pertubuhan yang disahkan melalui antara muka pengaturcaraan aplikasi (API). Ini membolehkan platform dan pemaju lain mengintegrasikan keupayaan pengesanan lanjutan ke dalam sistem mereka sendiri. Dengan menyediakan teknologi melalui API, OpenAI bertujuan untuk mewujudkan kaedah standard untuk mengenal pasti dan melaporkan bahan kesat di pelbagai persekitaran digital.

Tambahan pula, OpenAI telah menerbitkan garis panduan untuk membantu pemaju dalam mengesan dan melaporkan bahan kesat. Garis panduan ini menyediakan rangka kerja teknikal dan prosedur untuk membantu jurutera perisian dan pengendali platform mengekalkan piawaian keselamatan. Inisiatif tersebut mewakili langkah signifikan dalam usaha industri untuk menguruskan risiko yang berkaitan dengan kandungan yang dihasilkan oleh AI dan proliferasi bahan penderaan kanak-kanak digital.

Artikel ini ditulis dengan bantuan AI berdasarkan beberapa laporan berita dan disemak oleh editor kami mengikut prinsip editorial kami. Piawaian Editorial · Maklumat Berita & Hubungi

Apakah pendapat anda tentang siaran ini?

Komen 0

Jadilah yang pertama memberi komen

Hubungi kami

← Turkey News Utama
Turkey News Terima siaran baharu melalui e-melLanggan untuk menerima kandungan baharu melalui e-mel. Berhenti melanggan pada bila-bila masa.
Adakah ini membantu?Kongsi dengan rakan & media sosial