Preskoči na sadržaj
Društvo

OpenAI pokreće AI alat za otkrivanje materijala o seksualnom zlostavljanju dece i sadržaja generisanog veštačkom inteligencijom

Turkey News Urednički tim · · Vrijeme čitanja 7min čitanja · Pregledi 0 ·
Ključ — OpenAI je objavio novi alat za klasifikaciju zasnovan na veštačkoj inteligenciji dizajniran za otkrivanje materijala za seksualno zlostavljanje dece, uključujući sadržaj generisan veštačkom inteligencijom. Alat ima za cilj da daje prioritet zloupotrebljivom sadržaju za timove za ljudske preglede.

OpenAI je razvio novi alat za klasifikaciju zasnovan na veštačkoj inteligenciji dizajniran za otkrivanje materijala za seksualno zlostavljanje dece (CSAM), uključujući slike generisane veštačkom inteligencijom. Alat analizira vizuelne signale kako bi identifikovao prethodno neotkrivene slike zlostavljanja dece i pruža ocene kako bi dao prioritet sadržaju za timove za ljudske preglede. Ova tehnologija ima za cilj da pojednostavi identifikaciju ilegalnog materijala i pomogne bezbednosnim organizacijama u njihovim naporima u borbi protiv digitalne zloupotrebe.

Rezultati razvoja alata i testiranja alata

Alat je razvijen uz pomoć Nacionalnog centra za nestalu i eksploatisanu decu (NCMEC) sa sedištem u Sjedinjenim Državama. Interno testiranje koje sprovodi OpenAI ukazuje na to da alat može da smanji broj slika označenih za ručni pregled za 48% bez značajnog uticaja na mogućnosti detekcije. Ovo smanjenje ručnog radnog opterećenja omogućava timovima za ljudske preglede da se fokusiraju na najkritičnije slučajeve identifikovane od strane sistema.

Eksterno testiranje je dodatno potvrdilo efikasnost sistema klasifikacije. Testiranje od strane fal.ai potvrdilo je da 72% slika označenih kao vrlo sumnjive sadrže prethodno neidentifikovani nasilni materijal. Pored toga, SafetyKit testovi su pokazali da je alat identifikovao 90% testiranih slučajeva, što je uključivalo seksualizovane opise dece u crtanim filmovima i animacijama. Ovi rezultati sugerišu da je alat sposoban da otkrije složene oblike zlostavljanja koji mogu zaobići tradicionalne metode detekcije.

OpenAI bezbednosne mere i sprovođenje

OpenAI sprovodi nove bezbednosne mere u okviru ChatGPT kako bi sprečio generisanje i pristup ilegalnom sadržaju. Kompanija uvodi upozorenja za korisnike koji pokušavaju da pristupe uvredljivom sadržaju i izvršiće uklanjanje označenih ćaskanja. Ove mere su deo širih napora kako bi se osiguralo da generativni AI modeli ne olakšaju stvaranje ili distribuciju štetnog materijala.

Kompanija je uspostavila strogu politiku provođenja za korisnike koji krše ove sigurnosne smjernice. Prekršaji u ChatGPT-u će rezultirati 24-časovnom suspenzijom pristupa. Za korisnike koji počine ponovljena kršenja, posledice mogu uključivati duža ograničenja, zatvaranje naloga ili prijavljivanje vlastima. Ove disciplinske radnje imaju za cilj da odvrate upotrebu veštačke inteligencije za ilegalne aktivnosti.

Programerska podrška i distribucija

Da bi podržao širi tehnološki ekosistem, OpenAI objavljuje ovaj alat besplatno za verifikovane organizacije putem svog interfejsa za programiranje aplikacija (API). Ovo omogućava drugim platformama i programerima da integrišu napredne mogućnosti detekcije u sopstvene sisteme. Pružajući tehnologiju putem API-ja, OpenAI ima za cilj da stvori standardizovanu metodu za identifikaciju i izveštavanje o zloupotrebi materijala u različitim digitalnim okruženjima.

Štaviše, OpenAI je objavio smernice za pomoć programerima u otkrivanju i prijavljivanju uvredljivog materijala. Ove smjernice pružaju tehničke i proceduralne okvire koji pomažu softverskim inženjerima i operaterima platformi da održe sigurnosne standarde. Ova inicijativa predstavlja značajan korak u pokušaju industrije da upravlja rizicima povezanim sa sadržajem generisanim veštačkom inteligencijom i proliferacijom digitalnog materijala o zlostavljanju dece.

Ovaj članak je napisan uz pomoć AI-ja na osnovu više novinskih izvještaja i pregledan je od strane naših urednika u skladu s našim uređivačkim principima. Urednički standardi · Dojave i kontakt

Kako vam se svidjela ova objava?

Komentari 0

Budite prvi koji će komentarisati

Kontaktirajte nas

← Turkey News Početna
Turkey News Primajte nove objave na emailPretplatite se za primanje novog sadržaja putem emaila. Pretplatu možete otkazati u bilo kom trenutku.
Da li je ovo bilo korisno?Podijelite s prijateljima i na društvenim mrežama