Siirry sisältöön
Yhteiskunta

OpenAI lanseeraa tekoälytyökalun lasten seksuaalisen hyväksikäytön ja tekoälyn tuottaman sisällön havaitsemiseen

Turkey News Toimitus · · Lukuaika 7min · Katselukerrat 0 ·
Avain — OpenAI on julkaissut uuden tekoälypohjaisen luokittelutyökalun, joka on suunniteltu havaitsemaan lasten seksuaalista hyväksikäyttöä, mukaan lukien tekoälyn tuottama sisältö. Työkalun tavoitteena on priorisoida loukkaavaa sisältöä ihmisarviointitiimeille.

OpenAI on kehittänyt uuden tekoälyä hyödyntävän luokittelutyökalun, joka on suunniteltu havaitsemaan lasten seksuaalista hyväksikäyttöä, mukaan lukien tekoälyn tuottamat kuvat. Työkalu analysoi visuaalisia vihjeitä tunnistaakseen aiemmin havaitsemattomat lasten hyväksikäyttökuvat ja antaa pisteitä ihmisten arviointiryhmien sisällön priorisoimiseksi. Tämän teknologian tarkoituksena on tehostaa laittoman materiaalin tunnistamista ja auttaa turvallisuusorganisaatioita niiden pyrkimyksissä torjua digitaalista väärinkäyttöä.

Työkalujen kehitys- ja testaustulokset

Työkalu on kehitetty Yhdysvalloissa sijaitsevan National Center for Missing & Exploited Children (NCMEC) -järjestön avustuksella. OpenAI:n suorittama sisäinen testaus osoittaa, että työkalu voi vähentää manuaalista tarkistusta varten merkittyjen kuvien määrää 48 prosentilla ilman, että se vaikuttaa merkittävästi tunnistusominaisuuksiin. Tämä manuaalisen työmäärän väheneminen antaa ihmisille mahdollisuuden keskittyä järjestelmän määrittämiin kriittisimpiin tapauksiin.

Ulkopuolinen testaus on edelleen vahvistanut luokitusjärjestelmän tehokkuuden. Fal.ai-sivuston mukaan 72 prosenttia epäilyttäviksi ilmoitetuista kuvista sisälsi aiemmin tunnistamatonta loukkaavaa materiaalia. Lisäksi SafetyKit-testit osoittivat, että 90 % testatuista tapauksista sisälsi lasten seksualisoituja kuvauksia piirretyissä ja animaatioissa. Nämä tulokset viittaavat siihen, että työkalu pystyy havaitsemaan monimutkaisia väärinkäytön muotoja, jotka voivat ohittaa perinteiset havaitsemismenetelmät.

OpenAI-turvallisuustoimenpiteet ja täytäntöönpano

OpenAI ottaa käyttöön uusia turvatoimenpiteitä ChatGPT:ssä estääkseen laittoman sisällön luomisen ja pääsyn siihen. Yhtiö ottaa käyttöön varoituksia käyttäjille, jotka yrittävät käyttää väärinkäyttävää sisältöä, ja suorittaa merkittyjen keskustelujen poistamisen. Nämä toimenpiteet ovat osa laajempaa pyrkimystä varmistaa, että generatiiviset tekoälymallit eivät helpota haitallisen materiaalin luomista tai jakelua.

Yhtiö on laatinut tiukan valvontakäytännön käyttäjille, jotka rikkovat näitä turvallisuusohjeita. ChatGPT:n rikkomukset johtavat 24 tunnin pääsykieltoon. Käyttäjille, jotka syyllistyvät toistuviin rikkomuksiin, voi olla pidempiä rajoituksia, tilin sulkemista tai raportointia viranomaisille. Näiden kurinpitotoimien tarkoituksena on estää tekoälyn käyttö laittomaan toimintaan.

Kehittäjän tuki ja jakelu

Laajemman teknologiaekosysteemin tukemiseksi OpenAI julkaisee tämän työkalun ilmaiseksi todennetuille organisaatioille sovellusohjelmointirajapinnan (API) kautta. Näin muut alustat ja kehittäjät voivat integroida kehittyneet tunnistusominaisuudet omiin järjestelmiinsä. Tarjoamalla teknologian API:n kautta OpenAI pyrkii luomaan standardoidun menetelmän väärinkäyttävän materiaalin tunnistamiseen ja raportointiin eri digitaalisissa ympäristöissä.

Lisäksi OpenAI on julkaissut ohjeet, jotka auttavat kehittäjiä havaitsemaan ja raportoimaan väärinkäytöksistä. Nämä ohjeet tarjoavat teknisiä ja menettelyllisiä puitteita, jotka auttavat ohjelmistosuunnittelijoita ja alustaoperaattoreita ylläpitämään turvallisuusstandardeja. Aloite on merkittävä askel alan pyrkimyksissä hallita tekoälyllä tuotettuun sisältöön ja digitaalisen lasten hyväksikäyttömateriaalin yleistymiseen liittyviä riskejä.

Tämä artikkeli on kirjoitettu tekoälyn avulla useiden uutisraporttien pohjalta, ja toimituksemme tarkistaa sen toimitusperiaatteidemme mukaisesti. Journalistiset periaatteet · Vinkit & yhteystiedot

Mitä pidit tästä julkaisusta?

Kommentit 0

Kirjoita ensimmäinen kommentti

Ota yhteyttä

← Turkey News Etusivu
Turkey News Saa uudet julkaisut sähköpostiisiTilaa, niin saat uudet sisällöt sähköpostiisi. Voit peruuttaa milloin tahansa.
Oliko tästä hyötyä?Jaa se ystäville ja somessa