కంటెంట్‌కు వెళ్లండి
సమాజం

పిల్లల లైంగిక వేధింపుల కంటెంట్ మరియు AI- ఉత్పత్తి చేసిన కంటెంట్ను గుర్తించడానికి ఒపెన్‌ఏఐ AI సాధనాన్ని ప్రారంభించింది

టర్కీ న్యూస్ సంపాదకీయ బృందం · · చదివే సమయం 7నిమిషాల పఠనం · వీక్షణలు 0 ·
ముఖ్యం — కృత్రిమ మేధస్సు ద్వారా ఉత్పత్తి చేయబడిన కంటెంట్తో సహా పిల్లల లైంగిక దుర్వినియోగ పదార్థాన్ని గుర్తించడానికి రూపొందించిన కొత్త AI- శక్తితో కూడిన వర్గీకరణ సాధనాన్ని ఒపెన్‌ఏఐ విడుదల చేసింది. మానవ సమీక్ష బృందాలకు దుర్వినియోగ కంటెంట్కు ప్రాధాన్యత ఇవ్వడం ఈ సాధనం లక్ష్యం.

ఒపెన్‌ఏఐ కృత్రిమ మేధస్సు ద్వారా ఉత్పత్తి చేయబడిన చిత్రాలతో సహా పిల్లల లైంగిక వేధింపుల పదార్థం (CSAM) ను గుర్తించడానికి రూపొందించిన కొత్త AI- శక్తితో కూడిన వర్గీకరణ సాధనాన్ని అభివృద్ధి చేసింది. ఈ సాధనం గతంలో గుర్తించబడని పిల్లల దుర్వినియోగ చిత్రాలను గుర్తించడానికి దృశ్య సూచనలను విశ్లేషిస్తుంది మరియు మానవ సమీక్ష బృందాలకు కంటెంట్కు ప్రాధాన్యత ఇవ్వడానికి స్కోర్లను అందిస్తుంది. ఈ సాంకేతిక పరిజ్ఞానం అక్రమ పదార్థాల గుర్తింపును క్రమబద్ధీకరించడం మరియు డిజిటల్ దుర్వినియోగాన్ని ఎదుర్కోవటానికి వారి ప్రయత్నాలలో భద్రతా సంస్థలకు సహాయం చేయడం లక్ష్యంగా పెట్టుకుంది.

సాధన అభివృద్ధి మరియు పరీక్ష ఫలితాలు

యునైటెడ్ స్టేట్స్లో ఉన్న నేషనల్ సెంటర్ ఫర్ మిస్సింగ్ అండ్ ఎక్స్ప్లోయిటెడ్ చిల్డ్రన్ (ఎన్సిఎంఇసి) సహాయంతో ఈ సాధనం అభివృద్ధి చేయబడింది. ఒపెన్‌ఏఐ నిర్వహించిన అంతర్గత పరీక్ష సాధనం మాన్యువల్ సమీక్ష కోసం ఫ్లాగ్ చేసిన చిత్రాల సంఖ్యను గణనీయంగా గుర్తించే సామర్థ్యాలను ప్రభావితం చేయకుండా 48% తగ్గించగలదని సూచిస్తుంది. మాన్యువల్ వర్క్లోడ్లో ఈ తగ్గింపు వ్యవస్థ గుర్తించిన అత్యంత క్లిష్టమైన కేసులపై దృష్టి పెట్టడానికి మానవ సమీక్ష బృందాలను అనుమతిస్తుంది.

బాహ్య పరీక్ష వర్గీకరణ వ్యవస్థ యొక్క సామర్థ్యాన్ని మరింత ధృవీకరించింది. ఫాల్. ఐ ద్వారా పరీక్షించిన 72% చిత్రాలు అత్యంత అనుమానాస్పదంగా ఫ్లాగ్ చేయబడ్డాయి గతంలో గుర్తించబడని దుర్వినియోగ పదార్థం కలిగి ఉన్నాయని ధృవీకరించింది. అదనంగా, సేఫ్టీ కిట్ పరీక్షలు 90% పరీక్షించిన కేసులను గుర్తించాయి, ఇందులో కార్టూన్లు మరియు యానిమేషన్లలో పిల్లల లైంగికీకరించిన వివరణలు ఉన్నాయి. ఈ ఫలితాలు సాధనం సంప్రదాయ గుర్తింపు పద్ధతులను దాటవేయగల దుర్వినియోగ సంక్లిష్ట రూపాలను గుర్తించగలదని సూచిస్తున్నాయి.

ఒపెన్‌ఏఐ భద్రతా చర్యలు మరియు అమలు

అక్రమ కంటెంట్ యొక్క తరం మరియు ప్రాప్యతను నిరోధించడానికి ఒపెన్‌ఏఐ ChatGPT లోపల కొత్త భద్రతా చర్యలను అమలు చేస్తోంది. దుర్వినియోగ కంటెంట్ను యాక్సెస్ చేయడానికి ప్రయత్నిస్తున్న వినియోగదారుల కోసం కంపెనీ హెచ్చరికలను పరిచయం చేస్తోంది మరియు ఫ్లాగ్ చేసిన చాట్ల తొలగింపును నిర్వహిస్తుంది. ఈ చర్యలు హానికరమైన పదార్థాల సృష్టి లేదా పంపిణీని సులభతరం చేయవని నిర్ధారించడానికి విస్తృత ప్రయత్నంలో భాగం.

ఈ నిబంధనలను ఉల్లంఘించే వినియోగదారుల కోసం కంపెనీ కఠినమైన భద్రతా విధానాన్ని ఏర్పాటు చేసింది. ChatGPT లో ఉల్లంఘనలు 24 గంటల ప్రాప్యతను నిలిపివేస్తాయి. పునరావృత ఉల్లంఘనలకు పాల్పడిన వినియోగదారుల కోసం, పరిణామాలు ఎక్కువ పరిమితులు, ఖాతా మూసివేత లేదా అధికారులకు నివేదించవచ్చు. ఈ క్రమశిక్షణా చర్యలు చట్టవిరుద్ధమైన కార్యకలాపాలకు AI వాడకాన్ని అరికట్టడానికి ఉద్దేశించబడ్డాయి.

డెవలపర్ మద్దతు మరియు పంపిణీ

విస్తృత సాంకేతిక పర్యావరణ వ్యవస్థకు మద్దతు ఇవ్వడానికి, ఒపెన్‌ఏఐ తన అప్లికేషన్ ప్రోగ్రామింగ్ ఇంటర్ఫేస్ (API) ద్వారా ధృవీకరించిన సంస్థలకు ఈ సాధనాన్ని ఉచితంగా విడుదల చేస్తోంది. ఇది ఇతర ప్లాట్ఫారమ్లు మరియు డెవలపర్లు అధునాతన గుర్తింపు సామర్థ్యాలను వారి స్వంత సిస్టమ్లలో ఏకీకృతం చేయడానికి అనుమతిస్తుంది. API ద్వారా సాంకేతిక పరిజ్ఞానాన్ని అందించడం ద్వారా, ఒపెన్‌ఏఐ వివిధ డిజిటల్ పరిసరాలలో దుర్వినియోగ పదార్థాలను గుర్తించడానికి మరియు నివేదించడానికి ప్రామాణిక పద్ధతిని సృష్టించడం లక్ష్యంగా పెట్టుకుంది.

ఇంకా, దుర్వినియోగ విషయాలను గుర్తించడంలో మరియు నివేదించడంలో డెవలపర్లకు సహాయపడటానికి ఒపెన్‌ఏఐ మార్గదర్శకాలను ప్రచురించింది. ఈ మార్గదర్శకాలు సాఫ్ట్వేర్ ఇంజనీర్లు మరియు ప్లాట్ఫారమ్ ఆపరేటర్లు భద్రతా ప్రమాణాలను నిర్వహించడానికి సాంకేతిక మరియు విధానపరమైన ఫ్రేమ్వర్క్లను అందిస్తాయి. AI- ఉత్పత్తి చేసిన కంటెంట్తో సంబంధం ఉన్న నష్టాలను మరియు డిజిటల్ పిల్లల దుర్వినియోగ పదార్థం యొక్క విస్తరణను నిర్వహించడానికి పరిశ్రమ చేసిన ప్రయత్నంలో ఈ చొరవ ఒక ముఖ్యమైన దశను సూచిస్తుంది.

ఈ వ్యాసం అనేక వార్తా నివేదికల ఆధారంగా AI సహాయంతో రాయబడింది, మా సంపాదకీయ సూత్రాల ప్రకారం సంపాదకులు సమీక్షిస్తారు. సంపాదకీయ ప్రమాణాలు · వార్తా సూచనలు & సంప్రదింపు

ఈ పోస్ట్ మీకు ఎలా అనిపించింది?

వ్యాఖ్యలు 0

మొదటి వ్యాఖ్య మీదే కావచ్చు

మమ్మల్ని సంప్రదించండి

← టర్కీ న్యూస్ హోమ్
టర్కీ న్యూస్ కొత్త పోస్ట్‌లను ఇమెయిల్‌లో పొందండికొత్త కంటెంట్‌ను ఇమెయిల్ ద్వారా పొందడానికి సబ్‌స్క్రైబ్ చేయండి. ఎప్పుడైనా రద్దు చేసుకోవచ్చు.
ఇది ఉపయోగకరంగా ఉందా?స్నేహితులతో, సోషల్ మీడియాలో షేర్ చేయండి