Pāriet uz saturu
Sabiedrība

OpenAI izlaiž mākslīgā intelekta rīku, lai atklātu bērnu seksuālās izmantošanas materiālus un mākslīgā intelekta radīto saturu

Turkey News Redakcija · · Lasīšanas laiks 7min lasīšanas · Skatījumi 0 ·
Galvenais — OpenAI ir izlaidis jaunu AI darbināmu klasifikācijas rīku, kas paredzēts, lai atklātu bērnu seksuālās izmantošanas materiālus, tostarp mākslīgā intelekta radīto saturu. Rīka mērķis ir noteikt cilvēku atsauksmju komandu satura ļaunprātīgas izmantošanas prioritāti.

OpenAI ir izstrādājis jaunu mākslīgā intelekta klasifikācijas rīku, kas paredzēts bērnu seksuālās izmantošanas materiālu (CSAM) atklāšanai, tostarp mākslīgā intelekta radītiem attēliem. Instruments analizē vizuālās norādes, lai identificētu iepriekš neatklātus bērnu vardarbības attēlus, un sniedz rādītājus, lai noteiktu cilvēku atsauksmju komandu saturu. Šīs tehnoloģijas mērķis ir racionalizēt nelegālu materiālu identificēšanu un palīdzēt drošības organizācijām to centienos apkarot digitālo ļaunprātīgu izmantošanu.

Instrumentu izstrādes un testēšanas rezultāti

Rīks tika izstrādāts ar ASV Nacionālā pazudušo un ekspluatēto bērnu centra (NCMEC) palīdzību. Iekšējā pārbaude, ko veic OpenAI, norāda, ka rīks var samazināt manuālai pārskatīšanai atzīmēto attēlu skaitu par 48%, būtiski neietekmējot noteikšanas iespējas. Šis manuālās darba slodzes samazinājums ļauj cilvēkiem, kas veic pārskatīšanu, koncentrēties uz viskritiskākajiem gadījumiem, kurus noteikusi sistēma.

Ārējie testi ir papildus apstiprinājuši klasifikācijas sistēmas efektivitāti. Fal.ai veiktā testēšana apstiprināja, ka 72% no attēliem, kas atzīmēti kā ļoti aizdomīgi, satur iepriekš neidentificētu ļaunprātīgu materiālu. Turklāt SafetyKit testi parādīja, ka rīks identificēja 90% pārbaudīto gadījumu, kas ietvēra seksuālus bērnu aprakstus karikatūrās un animācijās. Šie rezultāti liecina, ka rīks spēj atklāt sarežģītus ļaunprātīgas izmantošanas veidus, kas var apiet tradicionālās atklāšanas metodes.

OpenAI drošības pasākumi un izpilde

OpenAI ievieš jaunus drošības pasākumus ChatGPT ietvaros, lai novērstu nelikumīga satura rašanos un piekļuvi tam. Uzņēmums ievieš brīdinājumus lietotājiem, kas mēģina piekļūt ļaunprātīgam saturam, un veiks karodziņu noņemšanu. Šie pasākumi ir daļa no plašākiem centieniem nodrošināt, ka ģeneratīvie mākslīgā intelekta modeļi neveicina kaitīgu materiālu radīšanu vai izplatīšanu.

Uzņēmums ir izveidojis stingru izpildes politiku lietotājiem, kuri pārkāpj šīs drošības vadlīnijas. ChatGPT pārkāpumi izraisīs piekļuves apturēšanu 24 stundu garumā. Lietotājiem, kuri izdara atkārtotus pārkāpumus, sekas var būt ilgāki ierobežojumi, konta slēgšana vai ziņošana iestādēm. Šīs disciplinārās darbības ir paredzētas, lai novērstu mākslīgā intelekta izmantošanu nelikumīgām darbībām.

Izstrādātāju atbalsts un izplatīšana

Lai atbalstītu plašāku tehnoloģiju ekosistēmu, OpenAI atbrīvo šo rīku bez maksas pārbaudītām organizācijām, izmantojot tā lietojumprogrammu saskarni (API). Tas ļauj citām platformām un izstrādātājiem integrēt uzlabotas atklāšanas iespējas savās sistēmās. Nodrošinot tehnoloģiju, izmantojot API, OpenAI mērķis ir izveidot standartizētu metodi, lai identificētu un ziņotu par ļaunprātīgu materiālu dažādās digitālajās vidēs.

Turklāt OpenAI ir publicējis vadlīnijas, lai palīdzētu izstrādātājiem atklāt un ziņot par ļaunprātīgu materiālu. Šīs pamatnostādnes nodrošina tehnisko un procesuālo satvaru, lai palīdzētu programmatūras inženieriem un platformu operatoriem uzturēt drošības standartus. Šī iniciatīva ir nozīmīgs solis nozares mēģinājumā pārvaldīt riskus, kas saistīti ar mākslīgā intelekta radīto saturu un digitālo bērnu ļaunprātīgas izmantošanas materiālu izplatīšanu.

Šis raksts sagatavots ar mākslīgā intelekta palīdzību, balstoties uz vairākiem ziņu avotiem, un to pārskata mūsu redaktori atbilstoši redakcijas principiem. Redakcionālie standarti · Ziņas un kontakti

Kā jums šis raksts?

Komentāri 0

Esiet pirmais, kas komentē

Sazināties ar mums

← Turkey News Sākums
Turkey News Saņemiet jaunos rakstus e-pastāAbonējiet, lai saņemtu jaunu saturu e-pastā. Atteikties var jebkurā laikā.
Vai tas bija noderīgi?Kopīgojiet ar draugiem un sociālajos tīklos