OpenAI začenja AI orodje za odkrivanje posnetkov spolnih zlorab otrok in vsebine, ki jo ustvarja AI
OpenAI je razvil novo orodje za razvrščanje, ki temelji na umetni inteligenci in je namenjeno odkrivanju gradiva o spolni zlorabi otrok (CSAM), vključno s slikami, ki jih ustvarja umetna inteligenca. Orodje analizira vizualne pokazatelje za prepoznavanje predhodno neodkritih slik o zlorabi otrok in zagotavlja rezultate za prednostno razvrščanje vsebine za skupine za človeški pregled. Namen te tehnologije je racionalizirati prepoznavanje nezakonitega gradiva in pomagati varnostnim organizacijam pri njihovih prizadevanjih za boj proti digitalni zlorabi.
Razvoj orodij in rezultati testiranja
Orodje je bilo razvito s pomočjo Nacionalnega centra za pogrešane in zlorabljene otroke (NCMEC) s sedežem v Združenih državah Amerike. Notranje testiranje, ki ga izvaja OpenAI, kaže, da lahko orodje zmanjša število slik, označenih za ročni pregled, za 48%, ne da bi bistveno vplivalo na zmogljivosti zaznavanja. To zmanjšanje ročne delovne obremenitve omogoča človeškim pregledovalnim skupinam, da se osredotočijo na najbolj kritične primere, ki jih je ugotovil sistem.
Z zunanjim preskušanjem je bila dodatno potrjena učinkovitost sistema razvrščanja. Testiranje, ki ga je opravilo podjetje Fal.ai, je potrdilo, da je 72 % slik, označenih kot zelo sumljivih, vsebovalo prej neidentificirano gradivo. Poleg tega so testi SafetyKit pokazali, da je orodje identificiralo 90% testiranih primerov, ki so vključevali seksualizirane opise otrok v risankah in animacijah. Ti rezultati kažejo, da je orodje sposobno zaznati zapletene oblike zlorabe, ki lahko zaobidejo tradicionalne metode odkrivanja.
OpenAI varnostni ukrepi in izvrševanje
OpenAI izvaja nove varnostne ukrepe znotraj ChatGPT za preprečevanje ustvarjanja in dostopanja do nezakonitih vsebin. Podjetje uvaja opozorila za uporabnike, ki poskušajo dostopati do zlonamerne vsebine in bodo izvedli odstranitev označenih klepetov. Ti ukrepi so del širših prizadevanj za zagotovitev, da generativni modeli umetne inteligence ne olajšajo ustvarjanja ali distribucije škodljivega materiala.
Družba je vzpostavila strogo politiko izvrševanja za uporabnike, ki kršijo te varnostne smernice. Kršitve v ChatGPT bodo imele za posledico 24-urno prekinitev dostopa. Za uporabnike, ki storijo ponavljajoče se kršitve, lahko posledice vključujejo daljše omejitve, zaprtje računa ali poročanje organom. Ti disciplinski ukrepi so namenjeni odvračanju od uporabe umetne inteligence za nezakonite dejavnosti.
Podpora in distribucija za razvijalce
Za podporo širšemu tehnološkemu ekosistemu je OpenAI izdal to orodje brezplačno za preverjene organizacije prek svojega vmesnika za aplikacijsko programiranje (API). To omogoča drugim platformam in razvijalcem, da integrirajo napredne zmogljivosti zaznavanja v svoje sisteme. Z zagotavljanjem tehnologije prek API-ja si OpenAI prizadeva ustvariti standardizirano metodo za prepoznavanje in poročanje o neprimernih vsebinah v različnih digitalnih okoljih.
Poleg tega je OpenAI objavil smernice za pomoč razvijalcem pri odkrivanju in prijavljanju neprimernih vsebin. Te smernice zagotavljajo tehnične in postopkovne okvire za pomoč programskim inženirjem in upravljavcem platform pri vzdrževanju varnostnih standardov. Pobuda predstavlja pomemben korak v prizadevanjih industrije za obvladovanje tveganj, povezanih z vsebino, ki jo ustvarja umetna inteligenca, in širjenjem digitalnega gradiva o zlorabi otrok.
Ta članek je nastal s pomočjo umetne inteligence na podlagi več novinarskih poročil, naši uredniki pa ga pregledajo v skladu z uredniškimi načeli. Uredniška načela · Namigi in kontakt
Komentarji 0