Kalo te përmbajtja
Shoqëri

OpenAI nis një mjet AI për të zbuluar materialin e abuzimit seksual të fëmijëve dhe përmbajtjen e gjeneruar nga AI

Turkey News Redaksia · · Koha e leximit 7min lexim · Shikime 0 ·
Kyç — OpenAI ka lëshuar një mjet të ri klasifikimi të mundësuar nga AI i projektuar për të zbuluar materialin e abuzimit seksual të fëmijëve, duke përfshirë përmbajtjen e gjeneruar nga inteligjenca artificiale. Mjeti synon të japë përparësi përmbajtje abuzive për ekipet e rishikimit njerëzor.

OpenAI ka zhvilluar një mjet të ri klasifikimi të mundësuar nga AI i projektuar për të zbuluar materialin e abuzimit seksual të fëmijëve (CSAM), duke përfshirë imazhet e gjeneruara nga inteligjenca artificiale. Mjeti analizon shenjat vizuale për të identifikuar imazhet e pazbuluara më parë të abuzimit të fëmijëve dhe siguron rezultate për të dhënë përparësi përmbajtjes për ekipet e rishikimit njerëzor. Kjo teknologji ka për qëllim të përvijojë identifikimin e materialeve të paligjshme dhe të ndihmojë organizatat e sigurisë në përpjekjet e tyre për të luftuar abuzimin dixhital.

Rezultatet e zhvillimit dhe testimit të veglave

Mjeti u zhvillua me ndihmë nga Qendra Kombëtare për Fëmijët e Zhdukur dhe të Shfrytëzuar (NCMEC) me qendër në SHBA. Testimi i brendshëm i kryer nga OpenAI tregon se mjeti mund të zvogëlojë numrin e imazheve të flamurizuara për rishikim manual me 48% pa ndikuar ndjeshëm në aftësitë e zbulimit. Ky reduktim në ngarkesën manuale të punës lejon ekipet e rishikimit njerëzor të përqendrohen në rastet më kritike të identifikuara nga sistemi.

Testimi i jashtëm ka vërtetuar më tej efikasitetin e sistemit të klasifikimit. Testimi nga fal.ai konfirmoi se 72% e imazheve të flamurizuara si shumë të dyshimta përmbanin materiale abuzive të paidentifikuara më parë. Për më tepër, testet e SafetyKit treguan se mjeti identifikoi 90% të rasteve të testuara, të cilat përfshinin përshkrime të seksualizuara të fëmijëve në karikatura dhe animacione. Këto rezultate sugjerojnë se mjeti është i aftë të zbulojë forma komplekse abuzimi që mund të anashkalojnë metodat tradicionale të zbulimit.

Masat e sigurisë OpenAI dhe zbatimi

OpenAI po zbaton masa të reja sigurie brenda ChatGPT për të parandaluar gjenerimin dhe qasjen e përmbajtjes së paligjshme. Kompania po prezanton paralajmërime për përdoruesit që përpiqen të hyjnë në përmbajtje abuzive dhe do të kryejnë heqjen e bisedave me flamur. Këto masa janë pjesë e një përpjekjeje më të gjerë për të siguruar që modelet gjeneruese të AI nuk lehtësojnë krijimin ose shpërndarjen e materialit të dëmshëm.

Kompania ka krijuar një politikë të rreptë të zbatimit për përdoruesit që shkelin këto udhëzime të sigurisë. Shkeljet në ChatGPT do të rezultojnë në një pezullim 24-orësh të qasjes. Për përdoruesit që kryejnë shkelje të përsëritura, pasojat mund të përfshijnë kufizime më të gjata, mbylljen e llogarisë ose raportimin tek autoritetet. Këto veprime disiplinore kanë për qëllim të pengojnë përdorimin e AI për aktivitete të paligjshme.

Mbështetja dhe shpërndarja e zhvilluesve

Për të mbështetur ekosistemin më të gjerë të teknologjisë, OpenAI po e lëshon këtë mjet falas për organizatat e verifikuara përmes ndërfaqes së saj të programimit të aplikacioneve (API). Kjo u lejon platformave dhe zhvilluesve të tjerë të integrojnë aftësitë e përparuara të zbulimit në sistemet e tyre. Duke siguruar teknologjinë përmes një API, OpenAI synon të krijojë një metodë të standardizuar për identifikimin dhe raportimin e materialit abuziv në mjedise të ndryshme dixhitale.

Për më tepër, OpenAI ka publikuar udhëzime për të ndihmuar zhvilluesit në zbulimin dhe raportimin e materialit abuziv. Këto udhëzime ofrojnë korniza teknike dhe procedurale për të ndihmuar inxhinierët e softuerit dhe operatorët e platformës të ruajnë standardet e sigurisë. Nisma përfaqëson një hap të rëndësishëm në përpjekjen e industrisë për të menaxhuar rreziqet që lidhen me përmbajtjen e gjeneruar nga AI dhe përhapjen e materialit dixhital të abuzimit të fëmijëve.

Ky artikull është shkruar me ndihmën e AI nga disa raportime lajmesh dhe rishikohet nga redaktorët tanë sipas parimeve tona editoriale. Standardet editoriale · Sinjalizime & Kontakt

Si ju duk ky postim?

Komente 0

Bëhuni i pari që komenton

Na kontaktoni

← Turkey News Kryefaqja
Turkey News Merrni postimet e reja me emailAbonohuni për të marrë përmbajtje të re me email. Mund të çabonoheni kurdo.
Ju ndihmoi kjo?Shpërndajeni me miqtë dhe në rrjetet sociale