Ruka hadi kwenye maudhui
Jamii

OpenAI yazindua zana ya AI kuchunguza nyenzo za unyanyasaji wa kingono kwa watoto na maudhui yanayozalishwa na AI

Turkey News Timu ya uhariri · · Muda wa kusoma 7dakika za kusoma · Idadi ya watazamaji 0 ·
Muhimu — OpenAI imetoa zana mpya ya uainishaji wa AI iliyoundwa kuchunguza nyenzo za unyanyasaji wa kijinsia za watoto, ikiwa ni pamoja na maudhui yanayotokana na akili bandia. Chombo hicho kinalenga kuweka kipaumbele maudhui yenye ukatili kwa timu za mapitio ya binadamu.

OpenAI imetengeneza zana mpya ya uainishaji wa AI iliyoundwa kuchunguza nyenzo za unyanyasaji wa kijinsia wa watoto (CSAM), pamoja na picha zinazozalishwa na akili bandia. Chombo hicho kinachambua maswali ya kuona ili kutambua picha za unyanyasaji wa watoto ambazo hazijathibitishwa hapo awali na kutoa alama za kuweka kipaumbele cha maudhui kwa timu za mapitio za binadamu. Teknolojia hii inalenga kuimarisha utambulisho wa nyenzo haramu na kusaidia mashirika ya usalama katika juhudi zao za kupambana na unyanyasaji wa kidijitali.

Maendeleo ya zana na matokeo ya majaribio

Zana hiyo ilitengenezwa kwa msaada kutoka Kituo cha Taifa cha Kupoteza na Kutumia Watoto (NCMEC) kilichoko Marekani. Upimaji wa ndani unaofanywa na OpenAI unaonyesha kuwa chombo hicho kinaweza kupunguza idadi ya picha zilizowekwa kwa ajili ya mapitio ya mwongozo kwa 48% bila kuathiri kwa kiasi kikubwa uwezo wa ugunduzi. Upunguzaji huu wa mzigo wa kazi ya mikono unaruhusu timu za mapitio ya kibinadamu kuzingatia kesi muhimu zaidi zilizotambuliwa na mfumo huo.

Upimaji wa nje umethibitisha zaidi ufanisi wa mfumo wa uainishaji. Upimaji wa fal.ai umethibitisha kuwa 72% ya picha zilizopimwa kama zenye mashaka makubwa zilikuwa na nyenzo zisizotambulika hapo awali. Aidha, vipimo vya UsalamaKit vilionyesha chombo hicho kilichobainisha 90% ya kesi zilizojaribiwa, ambazo zilijumuisha maelezo ya kingono ya watoto katika katuni na michoro. Matokeo haya yanaashiria kuwa chombo hicho kina uwezo wa kugundua aina tata za unyanyasaji unaoweza kupita njia za kugundua kimapokeo.

Hatua za usalama za OpenAI na utekelezaji

OpenAI inatekeleza hatua mpya za usalama ndani ya ChatGPT ili kuzuia kizazi na upatikanaji wa maudhui haramu. Kampuni hiyo inaanzisha tahadhari kwa watumiaji wanaojaribu kupata maudhui mabaya na itatekeleza uondoaji wa mazungumzo yaliyo wazi. Hatua hizi ni sehemu ya juhudi pana za kuhakikisha kuwa mifano ya AI inayozalisha haifai kuwezesha uumbaji au usambazaji wa nyenzo hatari.

Kampuni imeanzisha sera kali ya utekelezaji kwa watumiaji wanaokiuka miongozo hii ya usalama. Vurugu katika ChatGPT zitasababisha kusitishwa kwa saa 24 kwa upatikanaji. Kwa watumiaji wanaofanya ukiukaji wa mara kwa mara, matokeo yanaweza kujumuisha vikwazo virefu, kufunga akaunti, au kuripoti kwa mamlaka. Vitendo hivi vya nidhamu vinakusudiwa kuzuia matumizi ya AI kwa shughuli haramu.

Usaidizi na usambazaji wa waendelezaji

Ili kusaidia mfumo mpana wa teknolojia, OpenAI inatoa zana hii kwa ajili ya bure kuthibitishwa kwa mashirika kupitia kiolesura chake cha programu (API). Hii inaruhusu majukwaa mengine na watengenezaji kuunganisha uwezo wa juu wa kugundua katika mifumo yao wenyewe. Kwa kutoa teknolojia kupitia API, OpenAI inalenga kuunda njia iliyowekwa ya kutambua na kuripoti nyenzo zenye ukatili katika mazingira mbalimbali ya kidijitali.

Aidha, OpenAI imechapisha miongozo ya kuwasaidia watengenezaji katika kugundua na kutoa taarifa za nyenzo zenye ukatili. Miongozo hii inatoa mifumo ya kiufundi na ya kimfumo ili kuwasaidia wahandisi wa programu na waendeshaji wa jukwaa kudumisha viwango vya usalama. Mpango huo unawakilisha hatua muhimu katika jaribio la sekta hiyo la kudhibiti hatari zinazohusiana na maudhui yanayozalishwa na AI na kuenea kwa nyenzo za unyanyasaji wa watoto wa kidijitali.

Makala haya yaliandikwa kwa msaada wa AI kutoka kwa ripoti mbalimbali za habari na yanapitiwa na wahariri wetu chini ya misingi yetu ya uhariri. Viwango vya Uhariri · Dokezo na Mawasiliano

Umeipenda vipi makala hii?

Maoni 0

Kuwa wa kwanza kutoa maoni

Wasiliana nasi

← Turkey News Nyumbani
Turkey News Pata machapisho mapya kupitia barua pepeJisajili ili kupokea maudhui mapya kupitia barua pepe. Ondoa usajili wakati wowote.
Je, hii imekusaidia?Ishare na marafiki & mitandao ya kijamii