Preskoči na sadržaj
Društvo

OpenAI pokreće alat za umjetnu inteligenciju za otkrivanje materijala za seksualno zlostavljanje djece i sadržaja koji je stvorio umjetna inteligencija

Turkey News Uredništvo · · Vrijeme čitanja 7min čitanja · Pregledi 0 ·
Ključno — OpenAI je objavio novi alat za klasifikaciju koji se temelji na umjetnoj inteligenciji, a dizajniran je za otkrivanje materijala za seksualno zlostavljanje djece, uključujući i sadržaj koji generira umjetna inteligencija. Alat ima za cilj dati prioritet zlonamjernom sadržaju za timove za pregled ljudi.

OpenAI je razvio novi alat za klasifikaciju koji se temelji na umjetnoj inteligenciji i dizajniran je za otkrivanje materijala za seksualno zlostavljanje djece (CSAM), uključujući slike koje generira umjetna inteligencija. Alat analizira vizualne znakove kako bi identificirao prethodno neotkrivene slike zlostavljanja djece i daje rezultate za određivanje prioriteta sadržaja za timove za pregled ljudi. Ova tehnologija ima za cilj pojednostaviti identifikaciju nezakonitog materijala i pomoći sigurnosnim organizacijama u njihovim naporima u borbi protiv digitalne zlouporabe.

Razvoj alata i rezultati testiranja

Alat je razvijen uz pomoć Nacionalnog centra za nestalu i zlostavljanu djecu (NCMEC) sa sjedištem u Sjedinjenim Američkim Državama. Interno testiranje koje je proveo OpenAI pokazuje da alat može smanjiti broj slika označenih za ručni pregled za 48% bez značajnog utjecaja na mogućnosti otkrivanja. Ovo smanjenje ručnog rada omogućuje timovima za pregled ljudi da se usredotoče na najkritičnije slučajeve koje je sustav identificirao.

Vanjsko ispitivanje dodatno je potvrdilo učinkovitost klasifikacijskog sustava. Testiranje je potvrdilo da je 72 posto slika označenih kao vrlo sumnjive sadržavalo prethodno neidentificirane uvredljive materijale. Osim toga, SafetyKit testovi su pokazali da je alat identificirao 90% testiranih slučajeva, koji su uključivali seksualizirane opise djece u crtićima i animacijama. Ovi rezultati upućuju na to da je alat sposoban otkriti složene oblike zlostavljanja koji mogu zaobići tradicionalne metode otkrivanja.

OpenAI sigurnosne mjere i provedba

OpenAI provodi nove sigurnosne mjere unutar ChatGPT-a kako bi spriječio stvaranje i pristup nezakonitom sadržaju. Tvrtka uvodi upozorenja za korisnike koji pokušavaju pristupiti zlonamjernom sadržaju i izvršit će uklanjanje označenih razgovora. Te su mjere dio širih nastojanja da se osigura da se generativnim modelima umjetne inteligencije ne olakšava stvaranje ili distribucija štetnog materijala.

Tvrtka je uspostavila strogu politiku provedbe za korisnike koji krše ove sigurnosne smjernice. Prekršaji u ChatGPT rezultirat će 24-satnom suspenzijom pristupa. Za korisnike koji počine ponovljena kršenja, posljedice mogu uključivati dulja ograničenja, zatvaranje računa ili izvještavanje nadležnih tijela. Te disciplinske mjere namijenjene su sprečavanju uporabe umjetne inteligencije za nezakonite aktivnosti.

Razvojna podrška i distribucija

Kako bi podržao širi tehnološki ekosustav, OpenAI besplatno objavljuje ovaj alat provjerenim organizacijama putem svog aplikacijskog programskog sučelja (API). To omogućuje drugim platformama i programerima da integriraju napredne mogućnosti otkrivanja u svoje sustave. Pružanjem tehnologije putem API-ja, OpenAI ima za cilj stvoriti standardiziranu metodu za identifikaciju i izvješćivanje o zlouporabi materijala u različitim digitalnim okruženjima.

Nadalje, OpenAI je objavio smjernice za pomoć programerima u otkrivanju i prijavljivanju zlonamjernog materijala. Ove smjernice pružaju tehničke i proceduralne okvire koji pomažu softverskim inženjerima i operaterima platformi da održavaju sigurnosne standarde. Inicijativa predstavlja značajan korak u pokušaju industrije da upravlja rizicima povezanima sa sadržajem koji stvara umjetna inteligencija i širenjem digitalnog materijala za zlostavljanje djece.

Ovaj je članak napisan uz pomoć umjetne inteligencije na temelju više medijskih izvješća, a naše ga uredništvo pregledava prema uredničkim načelima. Urednička načela · Dojave i kontakt

Kako vam se svidio ovaj članak?

Komentari 0

Budite prvi koji će komentirati

Kontaktirajte nas

← Turkey News Početna
Turkey News Primajte nove članke e-poštomPretplatite se i primajte novi sadržaj e-poštom. Odjava je moguća u svakom trenutku.
Je li vam ovo bilo korisno?Podijelite s prijateljima i na društvenim mrežama