Slaan oor na inhoud
Samelewing

OpenAI loods 'n KI-instrument om seksuele mishandelingsmateriaal en KI-gegenereerde inhoud op te spoor

Turkey News Redaksiespan · · Leestyd 8min lees · Kyke 0 ·
Kern — OpenAI het 'n nuwe AI-aangedrewe klassifikasie-instrument vrygestel wat ontwerp is om seksuele misbruikmateriaal van kinders op te spoor, insluitend inhoud wat deur kunsmatige intelligensie gegenereer word. Die instrument het ten doel om beledigende inhoud vir menslike hersieningspanne te prioritiseer.

OpenAI het 'n nuwe KI-aangedrewe klassifikasie-instrument ontwikkel wat ontwerp is om seksuele misbruikmateriaal van kinders (CSAM) op te spoor, insluitend beelde wat deur kunsmatige intelligensie gegenereer word. Die instrument ontleed visuele leidrade om voorheen onopgemerkte kindermishandelingsbeelde te identifiseer en bied tellings om inhoud vir menslike hersieningspanne te prioritiseer. Hierdie tegnologie het ten doel om die identifisering van onwettige materiaal te stroomlyn en veiligheidsorganisasies by te staan in hul pogings om digitale mishandeling te bekamp.

Gereedskapontwikkeling en toetsresultate

Die instrument is ontwikkel met hulp van die National Center for Missing & Exploited Children (NCMEC) wat in die Verenigde State gebaseer is. Interne toetsing wat deur OpenAI uitgevoer word, dui daarop dat die instrument die aantal beelde wat vir handmatige hersiening gemerk is, met 48% kan verminder sonder om opsporingsvermoëns aansienlik te beïnvloed. Hierdie vermindering in handmatige werklading stel menslike hersieningspanne in staat om te fokus op die mees kritieke gevalle wat deur die stelsel geïdentifiseer is.

Eksterne toetsing het die doeltreffendheid van die klassifikasiestelsel verder bekragtig. Toets deur fal.ai het bevestig dat 72% van die beelde wat as hoogs verdag gemerk is, voorheen ongeïdentifiseerde beledigende materiaal bevat het. Boonop het SafetyKit-toetse getoon dat die instrument 90% van die getoetsde gevalle geïdentifiseer het, wat geseksualiseerde beskrywings van kinders in spotprente en animasies insluit. Hierdie resultate dui daarop dat die instrument in staat is om komplekse vorme van mishandeling op te spoor wat tradisionele opsporingsmetodes kan omseil.

OpenAI veiligheidsmaatreëls en afdwinging

OpenAI implementeer nuwe veiligheidsmaatreëls binne ChatGPT om die opwekking en toegang van onwettige inhoud te voorkom. Die maatskappy stel waarskuwings bekend vir gebruikers wat probeer om toegang tot beledigende inhoud te verkry en sal die verwydering van gemerkte geselsies uitvoer. Hierdie maatreëls is deel van 'n breër poging om te verseker dat generatiewe KI-modelle nie die skepping of verspreiding van skadelike materiaal vergemaklik nie.

Die maatskappy het 'n streng handhawingsbeleid ingestel vir gebruikers wat hierdie veiligheidsriglyne oortree. Oortredings in ChatGPT sal lei tot 'n 24-uur opskorting van toegang. Vir gebruikers wat herhaalde oortredings pleeg, kan die gevolge langer beperkings, rekeningsluiting of verslagdoening aan owerhede insluit. Hierdie dissiplinêre optrede is bedoel om die gebruik van KI vir onwettige aktiwiteite af te skrik.

Ontwikkelaar ondersteuning en verspreiding

Om die breër tegnologiese ekosisteem te ondersteun, stel OpenAI hierdie instrument gratis aan geverifieerde organisasies vry via sy toepassingsprogrammeringskoppelvlak (API). Dit stel ander platforms en ontwikkelaars in staat om gevorderde opsporingsvermoëns in hul eie stelsels te integreer. Deur die tegnologie deur 'n API te verskaf, beoog OpenAI om 'n gestandaardiseerde metode te skep vir die identifisering en rapportering van beledigende materiaal oor verskeie digitale omgewings.

Verder het OpenAI riglyne gepubliseer om ontwikkelaars te help met die opsporing en rapportering van beledigende materiaal. Hierdie riglyne bied tegniese en prosedurele raamwerke om sagteware-ingenieurs en platformoperateurs te help om veiligheidstandaarde te handhaaf. Die inisiatief verteenwoordig 'n belangrike stap in die bedryf se poging om die risiko's verbonde aan KI-gegenereerde inhoud en die verspreiding van digitale kindermishandelingsmateriaal te bestuur.

Hierdie artikel is met KI-hulp uit verskeie nuusberigte geskryf en word deur ons redakteurs volgens ons redaksionele beginsels hersien. Redaksionele Standaarde · Wenke & Kontak

Hoe het jy hierdie plasing gevind?

Opmerkings 0

Wees die eerste om te kommentaar te lewer

Kontak ons

← Turkey News Tuis
Turkey News Ontvang nuwe plasings per e-posTeken in om nuwe inhoud per e-pos te ontvang. Skrap te enige tyd.
Was dit nuttig?Deel dit met vriende en op sosiale media