Preskočiť na obsah
Spoločnosť

Open AI spúšťa nástroj AI na detekciu materiálu obsahujúceho sexuálne zneužívanie detí

Turkey News Redakčný tím · · Čas čítania 7min čítania · Zobrazenia 0 ·
Kľúč — Open AI vydala nový klasifikačný nástroj založený na umelej inteligencii, ktorý je určený na detekciu materiálu obsahujúceho sexuálne zneužívanie detí vrátane obsahu vytvoreného umelou inteligenciou. Nástroj má za cieľ uprednostniť urážlivý obsah pre ľudské recenzné tímy.

Open AI vyvinula nový klasifikačný nástroj založený na umelej inteligencii, ktorý je určený na detekciu materiálu obsahujúceho sexuálne zneužívanie detí (CSAM) vrátane obrázkov vytvorených umelou inteligenciou. Nástroj analyzuje vizuálne podnety na identifikáciu predtým nezistených obrázkov zneužívania detí a poskytuje skóre na stanovenie priorít obsahu pre tímy na kontrolu ľudí. Cieľom tejto technológie je zefektívniť identifikáciu nelegálneho materiálu a pomôcť bezpečnostným organizáciám v ich úsilí bojovať proti digitálnemu zneužívaniu.

Vývoj nástrojov a výsledky testovania

Nástroj bol vyvinutý s pomocou Národného centra pre nezvestné a zneužívané deti (NCMEC) so sídlom v Spojených štátoch. Interné testovanie vykonané spoločnosťou Open AI naznačuje, že nástroj môže znížiť počet obrázkov označených na ručné preskúmanie o 48% bez výrazného vplyvu na detekčné schopnosti. Toto zníženie manuálnej pracovnej záťaže umožňuje ľudským kontrolným tímom zamerať sa na najkritickejšie prípady identifikované systémom.

Externé testovanie ďalej potvrdilo účinnosť klasifikačného systému. Testovanie spoločnosti fal.ai potvrdilo, že 72% obrázkov označených ako vysoko podozrivé obsahovalo predtým neidentifikovaný urážlivý materiál. Okrem toho testy SafetyKit ukázali, že nástroj identifikoval 90% testovaných prípadov, ktoré zahŕňali sexuálne opisy detí v karikatúrach a animáciách. Tieto výsledky naznačujú, že nástroj je schopný odhaliť zložité formy zneužívania, ktoré môžu obísť tradičné metódy detekcie.

Bezpečnostné opatrenia a presadzovanie činnosti Open AI

Open AI zavádza v rámci ChatGPT nové bezpečnostné opatrenia na zabránenie vzniku a prístupu k nezákonnému obsahu. Spoločnosť zavádza upozornenia pre používateľov, ktorí sa pokúšajú získať prístup k zneužívajúcemu obsahu, a vykoná odstránenie označených chatov. Tieto opatrenia sú súčasťou širšieho úsilia zabezpečiť, aby generatívne modely umelej inteligencie neuľahčovali vytváranie alebo distribúciu škodlivého materiálu.

Spoločnosť zaviedla prísnu politiku presadzovania pre používateľov, ktorí porušujú tieto bezpečnostné pokyny. Porušenia v ChatGPT budú mať za následok 24-hodinové pozastavenie prístupu. Pre používateľov, ktorí sa dopustia opakovaných porušení, môžu dôsledky zahŕňať dlhšie obmedzenia, zatvorenie účtu alebo nahlásenie úradom. Tieto disciplinárne opatrenia majú za cieľ zabrániť využívaniu umelej inteligencie na nelegálne činnosti.

Podpora a distribúcia pre vývojárov

Pre podporu širšieho technologického ekosystému, Open AI uvoľňuje tento nástroj zadarmo pre overené organizácie prostredníctvom svojho aplikačného programovacieho rozhrania (API). To umožňuje iným platformám a vývojárom integrovať pokročilé detekčné schopnosti do svojich vlastných systémov. Poskytnutím technológie prostredníctvom rozhrania API sa Open AI snaží vytvoriť štandardizovanú metódu na identifikáciu a oznamovanie urážlivého materiálu v rôznych digitálnych prostrediach.

Okrem toho spoločnosť Open AI zverejnila usmernenia, ktoré pomáhajú vývojárom pri odhaľovaní a nahlasovaní urážlivého materiálu. Tieto usmernenia poskytujú technické a procedurálne rámce, ktoré pomáhajú softvérovým inžinierom a prevádzkovateľom platforiem dodržiavať bezpečnostné normy. Iniciatíva predstavuje významný krok v snahe priemyslu riadiť riziká spojené s obsahom generovaným umelou inteligenciou a šírením digitálneho materiálu obsahujúceho zneužívanie detí.

Tento článok vznikol s pomocou AI na základe viacerých spravodajských správ a naša redakcia ho kontroluje podľa redakčných zásad. Redakčné štandardy · Tipy a kontakt

Ako sa vám tento článok páčil?

Komentáre 0

Buďte prvý, kto pridá komentár

Kontaktujte nás

← Turkey News Domov
Turkey News Nové články do e-mailuPrihláste sa na odber a nový obsah vám budeme posielať e-mailom. Odber môžete kedykoľvek zrušiť.
Bolo to užitočné?Zdieľajte s priateľmi a na sociálnych sieťach