Pereiti prie turinio
Visuomenė

„OpenAI“ pristato dirbtinio intelekto įrankį, skirtą aptikti vaikų seksualinio išnaudojimo medžiagą ir dirbtinio intelekto sukurtą turinį

Turkey News Redakcija · · Skaitymo trukmė 7min. skaitymo · Peržiūros 0 ·
Esmė — OpenAI išleido naują dirbtinio intelekto klasifikavimo įrankį, skirtą aptikti vaikų seksualinio išnaudojimo medžiagą, įskaitant dirbtinio intelekto sukurtą turinį. Įrankio tikslas - nustatyti piktnaudžiavimo turinį žmonių peržiūros komandoms.

OpenAI sukūrė naują dirbtiniu intelektu paremtą klasifikavimo įrankį, skirtą aptikti vaikų seksualinio išnaudojimo medžiagą (CSAM), įskaitant dirbtinio intelekto sukurtus vaizdus. Įrankis analizuoja vizualius ženklus, kad būtų galima nustatyti anksčiau neaptiktus vaikų prievartos vaizdus, ir pateikia rezultatus, kad būtų galima nustatyti žmonių peržiūros komandų turinį. Ši technologija siekia supaprastinti neteisėtos medžiagos identifikavimą ir padėti saugos organizacijoms kovoti su skaitmeniniu piktnaudžiavimu.

Įrankių kūrimas ir testavimas

Šis įrankis buvo sukurtas padedant Nacionaliniam dingusių ir išnaudojamų vaikų centrui (NCMEC), įsikūrusiam JAV. OpenAI atlikti vidiniai bandymai rodo, kad įrankis gali sumažinti vaizdų, pažymėtų rankiniu būdu, skaičių 48%, nedarant didelės įtakos aptikimo galimybėms. Šis rankinio darbo krūvio sumažinimas leidžia žmonių tikrinimo komandoms sutelkti dėmesį į svarbiausius sistemos nustatytus atvejus.

Išorės bandymais dar kartą patvirtintas klasifikavimo sistemos veiksmingumas. Fal.ai tyrimas patvirtino, kad 72 proc. nuotraukų, pažymėtų kaip labai įtartinos, buvo iš anksčiau neatpažintos užgaulios medžiagos. Be to, „SafetyKit“ testai parodė, kad įrankis nustatė 90% išbandytų atvejų, įskaitant seksualizuotus vaikų aprašymus animacijose ir animacijose. Šie rezultatai rodo, kad įrankis gali aptikti sudėtingas piktnaudžiavimo formas, kurios gali apeiti tradicinius aptikimo metodus.

OpenAI saugos priemonės ir jų įgyvendinimas

OpenAI įgyvendina naujas saugumo priemones ChatGPT, kad užkirstų kelią neteisėto turinio kūrimui ir prieigai prie jo. Bendrovė įveda įspėjimus vartotojams, bandantiems pasiekti piktnaudžiavimą keliantį turinį, ir atliks pažymėtų pokalbių pašalinimą. Šios priemonės yra dalis platesnio masto pastangų užtikrinti, kad kuriant ar platinant kenksmingą medžiagą nebūtų naudojami generaciniai dirbtinio intelekto modeliai.

Bendrovė sukūrė griežtą vykdymo užtikrinimo politiką vartotojams, kurie pažeidžia šias saugos gaires. Pažeidus ChatGPT, prieiga bus sustabdyta 24 valandas. Naudotojams, kurie daro pakartotinius pažeidimus, pasekmės gali būti ilgesni apribojimai, paskyros uždarymas arba ataskaitų teikimas valdžios institucijoms. Šiomis drausminėmis priemonėmis siekiama atgrasyti nuo dirbtinio intelekto naudojimo neteisėtai veiklai.

Kūrėjų palaikymas ir distribucija

Norėdami palaikyti platesnę technologijų ekosistemą, OpenAI nemokamai išleidžia šį įrankį patikrintoms organizacijoms per savo programų sąsają (API). Tai leidžia kitoms platformoms ir kūrėjams integruoti pažangias aptikimo galimybes į savo sistemas. Teikdamas šią technologiją per API, OpenAI siekia sukurti standartizuotą metodą, skirtą nustatyti ir pranešti apie piktnaudžiaujamą medžiagą įvairiose skaitmeninėse aplinkose.

Be to, OpenAI paskelbė gaires, skirtas padėti kūrėjams aptikti ir pranešti apie piktnaudžiavimą medžiaga. Šiose gairėse pateikiamos techninės ir procedūrinės sistemos, padedančios programinės įrangos inžinieriams ir platformų operatoriams laikytis saugos standartų. Ši iniciatyva yra svarbus žingsnis šiame sektoriuje siekiant valdyti su DI sukurtu turiniu ir skaitmeninės medžiagos apie vaikų išnaudojimą platinimu susijusią riziką.

Šis straipsnis parengtas naudojant DI pagalbą remiantis keliomis naujienų ataskaitomis, o mūsų redaktoriai jį peržiūri pagal redakcinius principus. Redakciniai standartai · Pranešimai ir kontaktai

Kaip jums patiko šis įrašas?

Komentarai 0

Būkite pirmas, palikęs komentarą

Susisiekite

← Turkey News Pradžia
Turkey News Gaukite naujus įrašus el. paštuUžsiprenumeruokite ir gaukite naują turinį el. paštu. Prenumeratos galite atsisakyti bet kada.
Ar tai buvo naudinga?Pasidalykite su draugais ir socialiniuose tinkluose