OpenAI käivitab AI-tööriista laste seksuaalset kuritarvitamist kujutava materjali ja AI-ga loodud sisu tuvastamiseks
OpenAI on välja töötanud uue tehisintellektil põhineva klassifitseerimisvahendi, mis on loodud laste seksuaalset kuritarvitamist kujutava materjali (CSAM) tuvastamiseks. Tööriist analüüsib visuaalseid vihjeid, et tuvastada varem tuvastamata laste väärkohtlemise pilte, ja annab skoori, et seada sisu inimeste läbivaatamise meeskondadele esikohale. Selle tehnoloogia eesmärk on lihtsustada ebaseadusliku materjali tuvastamist ja aidata ohutusorganisatsioone nende jõupingutustes digitaalse kuritarvitamise vastu võitlemisel.
Tööriistade arendus ja testimistulemused
See tööriist töötati välja Ameerika Ühendriikides asuva kadunud ja ekspluateeritud laste riikliku keskuse (NCMEC) abiga. OpenAI tehtud sisemine testimine näitab, et tööriist võib vähendada käsitsi ülevaatamiseks märgistatud piltide arvu 48% võrra, ilma et see mõjutaks oluliselt tuvastusvõimalusi. See käsitsi tehtava töö vähendamine võimaldab inimeste ülevaatusmeeskondadel keskenduda kõige kriitilisematele süsteemi poolt tuvastatud juhtumitele.
Välised katsed on täiendavalt kinnitanud klassifitseerimissüsteemi tõhusust. Fal.ai testimine kinnitas, et 72% piltidest olid väga kahtlased, sisaldades varem tuvastamata kuritarvitavaid materjale. Lisaks näitasid SafetyKiti testid, et tööriist tuvastas 90% testitud juhtudest, mis hõlmasid laste seksuaalset kirjeldust karikatuurides ja animatsioonides. Need tulemused näitavad, et tööriist on võimeline tuvastama keerulisi kuritarvitamise vorme, mis võivad traditsioonilistest avastamismeetoditest mööda minna.
OpenAI ohutusmeetmed ja jõustamine
OpenAI rakendab ChatGPT-s uusi ohutusmeetmeid, et vältida ebaseadusliku sisu loomist ja sellele juurdepääsu. Ettevõte võtab kasutusele hoiatused kasutajatele, kes üritavad pääseda juurde kuritahtlikule sisule, ja eemaldab märgistatud vestlused. Need meetmed on osa laiemast jõupingutusest tagada, et genereerivad tehisintellekti mudelid ei hõlbustaks kahjuliku materjali loomist ega levitamist.
Ettevõte on kehtestanud range jõustamispoliitika kasutajatele, kes rikuvad neid ohutusjuhiseid. ChatGPT rikkumised toovad kaasa 24-tunnise juurdepääsu peatamise. Korduvaid rikkumisi toime pannud kasutajate jaoks võivad tagajärjed hõlmata pikemaid piiranguid, konto sulgemist või ametiasutustele teatamist. Nende distsiplinaarmeetmete eesmärk on hoida ära tehisintellekti kasutamine ebaseaduslikuks tegevuseks.
Arendaja tugi ja levitamine
Et toetada laiemat tehnoloogia ökosüsteemi, annab OpenAI selle tööriista tasuta välja kontrollitud organisatsioonidele oma rakendusliidese (API) kaudu. See võimaldab teistel platvormidel ja arendajatel integreerida täiustatud tuvastusvõimalusi oma süsteemidesse. Pakkudes tehnoloogiat API kaudu, püüab OpenAI luua standardiseeritud meetodi kuritarvitava materjali tuvastamiseks ja sellest teatamiseks erinevates digitaalsetes keskkondades.
Lisaks on OpenAI avaldanud juhised, mis aitavad arendajatel kuritahtlikke materjale avastada ja neist teatada. Need suunised pakuvad tehnilisi ja menetluslikke raamistikke, mis aitavad tarkvarainseneridel ja platvormioperaatoritel säilitada ohutusstandardeid. Algatus on oluline samm tööstuse püüdlustes juhtida tehisintellekti abil loodud sisu ja laste kuritarvitamist kujutava digitaalse materjali levikuga seotud riske.
See artikkel on kirjutatud tehisintellekti abiga mitme uudisallika põhjal ja meie toimetajad vaatavad selle üle vastavalt toimetuspõhimõtetele. Toimetuse põhimõtted · Vihjed ja kontakt
Kommentaarid 0