OpenAI kynnir gervigreindarverkfæri til að greina efni um kynferðislega misnotkun á börnum og gervigreindarskapað efni
OpenAI hefur þróað nýtt flokkunartæki sem byggir á gervigreind sem er hannað til að greina efni um kynferðislega misnotkun á börnum (CSAM), þar á meðal myndir sem eru búnar til með gervigreind. Tólið greinir sjónrænar vísbendingar til að greina áður óuppgötvaðar myndir um misnotkun á börnum og gefur stig til að forgangsraða efni fyrir hópa umsækjenda. Þessi tækni miðar að því að einfalda auðkenningu á ólöglegu efni og aðstoða öryggisfyrirtæki í viðleitni þeirra til að berjast gegn stafrænu misnotkun.
Tólþróun og prófunarniðurstöður
Tólið var þróað með aðstoð frá National Center for Missing & Exploited Children (NCMEC) í Bandaríkjunum. Innri prófanir sem framkvæmdar eru af OpenAI gefa til kynna að tólið geti dregið úr fjölda mynda sem merktar eru til handvirkrar skoðunar um 48% án þess að hafa veruleg áhrif á uppgötvunargetu. Þessi minnkun á handvirku vinnuálagi gerir mönnum til að einbeita sér að mikilvægustu málunum sem kerfið greinir.
Ytri prófanir hafa enn frekar staðfest virkni flokkunarkerfisins. Prófanir af fal.ai staðfestu að 72% af myndum sem voru merktar sem mjög grunsamlegar innihaldi áður óþekkt, ólöglegt efni. Að auki sýndu SafetyKit prófanir að tólið auðkenndi 90% af prófuðum tilvikum, sem innihélt kynferðislega lýsingar á börnum í teiknimyndum og hreyfimyndum. Þessar niðurstöður benda til þess að tólið sé fært um að greina flóknar tegundir misnotkunar sem gæti farið framhjá hefðbundnum uppgötvunaraðferðum.
OpenAI öryggisráðstafanir og framfylgd
OpenAI er að innleiða nýjar öryggisráðstafanir innan ChatGPT til að koma í veg fyrir myndun og aðgang að ólöglegu efni. Fyrirtækið er að kynna viðvaranir fyrir notendur sem reyna að fá aðgang að móðgandi efni og mun framkvæma flutning á merktum spjallum. Þessar ráðstafanir eru hluti af víðtækari viðleitni til að tryggja að kynslóðar gervigreindarlíkön auðvelda ekki myndun eða dreifingu skaðlegs efnis.
Fyrirtækið hefur komið á ströngum framfylgdarstefnu fyrir notendur sem brjóta gegn þessum öryggisleiðbeiningum. Brot í ChatGPT mun leiða til 24 klukkustunda stöðvunar á aðgangi. Fyrir notendur sem fremja endurteknar brot, geta afleiðingarnar verið lengri takmarkanir, lokun reiknings eða skýrslugjöf til stjórnvalda. Þessar agaaðgerðir eru ætlaðar til að hindra notkun gervigreindar til ólöglegra aðgerða.
Stuðningur við þróunaraðila og dreifing
Til að styðja við víðtækari tæknilega vistkerfi er OpenAI að gefa út þetta tól ókeypis fyrir staðfestar stofnanir í gegnum API (application programming interface). Þetta gerir öðrum vettvangum og forriturum kleift að samþætta háþróaða uppgötvunargetu í eigin kerfi. Með því að veita tæknina í gegnum API miðar OpenAI að því að búa til staðlaða aðferð til að bera kennsl á og tilkynna um móðgandi efni í ýmsum stafrænum umhverfi.
Að auki hefur OpenAI birt leiðbeiningar til að aðstoða forritara við að greina og tilkynna um móðgandi efni. Þessar viðmiðunarreglur veita tæknilegum og málsmeðferðarlegum ramma til að hjálpa hugbúnaðarverkfræðingum og rekstraraðilum á vettvangi að viðhalda öryggisstaðlum. Framtakið táknar mikilvæg skref í tilraun iðnaðarins til að stýra áhættum sem tengjast gervigreindartengdu efni og útbreiðslu á stafrænu efni um misnotkun á börnum.
Þessi grein var skrifuð með aðstoð gervigreindar byggð á margvíslegum fréttatilkynningum og er yfirfalin af ritstjörfum okkar samkvæmt ritstjórnarreglum okkar. Ritstjórnarreglur · Ábendingar og samband
Athugasemdir 0