ഉള്ളടക്കത്തിലേക്ക് പോകുക
സമൂഹം

കുട്ടികളെ ലൈംഗികമായി ദുരുപയോഗം ഔട്ട് ഔട്ട് ചെയ്യുന്ന മെറ്റീരിയലും എഐ ജനറേറ്റുചെയ്ത ഉള്ളടക്കവും കണ്ടെത്തുന്നതിനുള്ള ഒരു AI ഉപകരണം ഓപന ഏആഈ പുറത്തിറക്കുന്നു

തുർക്കി ന്യൂസ് എഡിറ്റോറിയൽ ടീം · · വായനാ സമയം 8മിനിറ്റ് വായന · കാഴ്ചകൾ 0 ·
പ്രധാനം — ആർട്ടിഫിഷ്യൽ ഇന്റലിജൻസ് സൃഷ്ടിച്ച ഉള്ളടക്കം ഉൾപ്പെടെ കുട്ടികളെ ലൈംഗികമായി ദുരുപയോഗം ചെയ്യുന്ന വസ്തുക്കൾ കണ്ടെത്തുന്നതിനായി രൂപകൽപ്പന ചെയ്ത പുതിയ എഐ-പവർ ക്ലാസിഫിക്കേഷൻ ഉപകരണം ഓപന ഏആഈ പുറത്തിറക്കി. മനുഷ്യ അവലോകന ടീമുകൾക്കായി അധിക്ഷേപകരമായ ഉള്ളടക്കത്തിന് മുൻഗണന നൽകുകയാണ് ഈ ഉപകരണം ലക്ഷ്യമിടുന്നത്.

ആർട്ടിഫിഷ്യൽ ഇന്റലിജൻസ് സൃഷ്ടിച്ച ചിത്രങ്ങൾ ഉൾപ്പെടെ കുട്ടികളുടെ ലൈംഗിക ദുരുപയോഗ വസ്തുക്കൾ (സിഎസ്എം) കണ്ടെത്തുന്നതിന് രൂപകൽപ്പന ചെയ്ത ഒരു പുതിയ എഐ-പവർ ക്ലാസിഫിക്കേഷൻ ഉപകരണം ഓപന ഏആഈ വികസിപ്പിച്ചെടുത്തിട്ടുണ്ട്. മുമ്പ് കണ്ടെത്താത്ത കുട്ടികളുടെ ദുരുപയോഗ ഇമേജുകൾ തിരിച്ചറിയുന്നതിനുള്ള വിഷ്വൽ സൂചകങ്ങൾ ഈ ഉപകരണം വിശകലനം ചെയ്യുകയും മനുഷ്യ അവലോകന ടീമുകൾക്കായി ഉള്ളടക്കത്തിന് മുൻഗണന നൽകുന്നതിനുള്ള സ്കോറുകൾ നൽകുകയും ചെയ്യുന്നു. ഡിജിറ്റൽ ദുരുപയോഗത്തെ ചെറുക്കുന്നതിനുള്ള ശ്രമങ്ങളിൽ നിയമവിരുദ്ധമായ വസ്തുക്കളുടെ തിരിച്ചറിയലിനെ കാര്യക്ഷമമാക്കാനും സുരക്ഷാ സ്ഥാപനങ്ങളെ സഹായിക്കാനും ഈ സാങ്കേതികവിദ്യ ലക്ഷ്യമിടുന്നു.

ഉപകരണ വികസനവും പരീക്ഷണ ഫലങ്ങളും

അമേരിക്കൻ ഐക്യനാടുകൾ ആസ്ഥാനമായി പ്രവർത്തിക്കുന്ന നാഷണൽ സെന്റർ ഫോർ മിസ്സിംഗ് & എക്സ്പ്ലോയിറ്റഡ് ചിൽഡ്രന്റെ (എൻസിഎംഇസി) സഹായത്തോടെയാണ് ഈ ഉപകരണം വികസിപ്പിച്ചെടുത്തത്. ഓപന ഏആഈ നടത്തിയ ഇന്റേണൽ ടെസ്റ്റിംഗ് സൂചിപ്പിക്കുന്നത് കണ്ടെത്തൽ ശേഷിയെ സാരമായി ബാധിക്കാതെ മാനുവൽ അവലോകനത്തിനായി ഫ്ലാഗുചെയ്ത ചിത്രങ്ങളുടെ എണ്ണം 48% കുറയ്ക്കുമെന്നാണ്. മാനുവൽ വർക്ക്ലോഡിലെ ഈ കുറയ്ക്കൽ സിസ്റ്റം തിരിച്ചറിഞ്ഞ ഏറ്റവും നിർണായകമായ കേസുകളിൽ ശ്രദ്ധ കേന്ദ്രീകരിക്കാൻ മനുഷ്യ അവലോകന ടീമുകളെ അനുവദിക്കുന്നു.

എക്സ്റ്റേണൽ ടെസ്റ്റിംഗ് വർഗ്ഗീകരണ സംവിധാനത്തിന്റെ ഫലപ്രാപ്തിയെ കൂടുതൽ സാധൂകരിച്ചിട്ടുണ്ട്. 72 ശതമാനം ചിത്രങ്ങളും മുമ്പ് തിരിച്ചറിയപ്പെടാത്ത അധിക്ഷേപകരമായ വസ്തുക്കളിൽ അടങ്ങിയിട്ടുണ്ടെന്ന് ഫാൽ. ആയി നടത്തിയ പരിശോധനയിൽ സ്ഥിരീകരിക്കുന്നു. കാർട്ടൂണുകളിലും ആനിമേഷനുകളിലുമുള്ള കുട്ടികളുടെ ലൈംഗിക വിവരണങ്ങൾ ഉൾപ്പെടുന്ന 90 ശതമാനം പരീക്ഷണ കേസുകളും സേഫ്റ്റി കിറ്റ് ടെസ്റ്റുകൾ കണ്ടെത്തി. പരമ്പരാഗത കണ്ടെത്തൽ രീതികളെ മറികടക്കുന്ന സങ്കീർണ്ണമായ ദുരുപയോഗ രൂപങ്ങൾ കണ്ടെത്താൻ ഈ ഉപകരണത്തിന് കഴിവുണ്ടെന്ന് ഈ ഫലങ്ങൾ സൂചിപ്പിക്കുന്നു.

ഓപന ഏആഈ സുരക്ഷാ നടപടികളും നടപ്പാക്കലും

നിയമവിരുദ്ധമായ ഉള്ളടക്കത്തിന്റെ ഉൽപാദനവും പ്രവേശനവും തടയുന്നതിനായി ഓപന ഏആഈ ChatGPT- നുള്ളിൽ പുതിയ സുരക്ഷാ നടപടികൾ നടപ്പിലാക്കുന്നു. അധിക്ഷേപകരമായ ഉള്ളടക്കം ആക്സസ് ചെയ്യാൻ ശ്രമിക്കുന്ന ഉപയോക്താക്കൾക്ക് കമ്പനി മുന്നറിയിപ്പുകൾ അവതരിപ്പിക്കുകയും ഫ്ലാഗുചെയ്ത ചാറ്റുകൾ നീക്കംചെയ്യുകയും ചെയ്യും. ജനറേറ്റീവ് എഐ മോഡലുകൾ ദോഷകരമായ വസ്തുക്കളുടെ സൃഷ്ടിക്കുന്നതിനോ വിതരണം ചെയ്യുന്നതിനോ സഹായിക്കുന്നില്ലെന്ന് ഉറപ്പുവരുത്തുന്നതിനുള്ള വിശാലമായ ശ്രമത്തിന്റെ ഭാഗമാണ് ഈ നടപടികൾ.

ഈ സുരക്ഷാ മാർഗ്ഗനിർദ്ദേശങ്ങൾ ലംഘിക്കുന്ന ഉപയോക്താക്കൾക്കായി കമ്പനി കർശനമായ നടപ്പാക്കൽ നയം രൂപീകരിച്ചു. ChatGPT യിലെ ലംഘനങ്ങൾ 24 മണിക്കൂറിനുള്ള് ക്ക് സസ്പെന് ഷനിലേക്ക് നയിക്കും. ആവർത്തിച്ചുള്ള ലംഘനങ്ങൾ ചെയ്യുന്ന ഊഹാപോഹങ്ങൾക്കായി, അനന്തരഫലങ്ങളിൽ ദൈർഘ്യമേറിയ നിയന്ത്രണങ്ങൾ, അക്കൌണ്ട് അടയ്ക്കൽ അല്ലെങ്കിൽ അധികാരികൾക്ക് റിപ്പോർട്ടിംഗ് എന്നിവ ഉൾപ്പെടാം. നിയമവിരുദ്ധമായ പ്രവർത്തനങ്ങൾക്കായി AI ഉപയോഗിക്കുന്നത് തടയുന്നതിനാണ് ഈ അച്ചടക്ക നടപടികൾ ഉദ്ദേശിക്കുന്നത്.

ഡെവലപ്പർ പിന്തുണയും ഡിസ്ട്രിബ്യൂഷനും

വിശാലമായ സാങ്കേതിക ആവാസവ്യവസ്ഥയെ പിന്തുണയ്ക്കുന്നതിന്, ഓപന ഏആഈ അതിന്റെ ആപ്ലിക്കേഷൻ പ്രോഗ്രാമിംഗ് ഇന്റർഫേസ് (എപിഐ) വിശപ്പെടുത്തിയ ഓർഗനൈസേഷനുകൾക്ക് സൌജന്യമായി ഈ ഉപകരണം പുറത്തിറക്കുന്നു. മറ്റ് പ്ലാറ്റ്ഫോമുകൾക്കും ഡവലപ്പർമാർക്കും അവരുടെ സ്വന്തം സിസ്റ്റങ്ങളിൽ നൂതന കണ്ടെത്തൽ കഴിവുകൾ സമന്വയിപ്പിക്കാൻ ഇത് അനുവദിക്കുന്നു. ഒരു എപിഐ വഴി സാങ്കേതികവിദ്യ നൽകുന്നതിലൂടെ, വിവിധ ഡിജിറ്റൽ പരിതസ്ഥിതികളിലുടനീളം അധിക്ഷേപകരമായ വസ്തുക്കൾ തിരിച്ചറിയുന്നതിനും റിപ്പോർട്ടുചെയ്യുന്നതിനും ഒരു സ്റ്റാൻഡേർഡൈസ്ഡ് രീതി സൃഷ്ടിക്കാൻ ഓപന ഏആഈ ലക്ഷ്യമിടുന്നു.

കൂടാതെ, അധിക്ഷേപകരമായ വസ്തുക്കൾ കണ്ടെത്തുന്നതിനും റിപ്പോർട്ടുചെയ്യുന്നതിനും ഡവലപ്പർമാരെ സഹായിക്കുന്നതിനുള്ള മാർഗ്ഗനിർദ്ദേശങ്ങൾ ഓപന ഏആഈ പ്രസിദ്ധീകരിച്ചു. ഈ മാർഗ്ഗനിർദ്ദേശങ്ങൾ സോഫ്റ്റ്വെയർ എഞ്ചിനീയർമാരെയും പ്ലാറ്റ്ഫോം ഓപ്പറേറ്റർമാരെയും സുരക്ഷാ മാനദണ്ഡങ്ങൾ പാലിക്കാൻ സഹായിക്കുന്നതിന് സാങ്കേതികവും നടപടിക്രമപരവുമായ ചട്ടക്കൂടുകൾ നൽകുന്നു. എഐ-ജനറേറ്റുചെയ്ത ഉള്ളടക്കവുമായി ബന്ധപ്പെട്ട അപകടസാധ്യതകളും ഡിജിറ്റൽ കുട്ടികളുടെ ദുരുപയോഗ മെറ്റീരിയലിന്റെ വ്യാപനവും കൈകാര്യം ചെയ്യുന്നതിനുള്ള വ്യവസായത്തിന്റെ ശ്രമത്തിലെ ഒരു സുപ്രധാന ഘട്ടത്തെ ഈ സംരംഭം പ്രതിനിധീകരിക്കുന്നു.

ഒന്നിലധികം വാർത്താ റിപ്പോർട്ടുകളിൽ നിന്ന് AI സഹായത്തോടെയാണ് ഈ ലേഖനം തയ്യാറാക്കിയത്, കൂടാതെ ഞങ്ങളുടെ എഡിറ്റോറിയൽ തത്വങ്ങൾക്കനുസരിച്ച് എഡിറ്റർമാർ ഇത് അവലോകനം ചെയ്തിട്ടുണ്ട്. എഡിറ്റോറിയൽ മാനദണ്ഡങ്ങൾ · വാർത്താസൂചനകളും ബന്ധപ്പെടലും

ഈ പോസ്റ്റ് നിങ്ങൾക്ക് എങ്ങനെ തോന്നി?

കമന്റുകൾ 0

ആദ്യം കമന്റ് ചെയ്യൂ

ബന്ധപ്പെടുക

← തുർക്കി ന്യൂസ് ഹോം
തുർക്കി ന്യൂസ് പുതിയ പോസ്റ്റുകൾ ഇമെയിലിൽ ലഭിക്കുകപുതിയ ഉള്ളടക്കം ഇമെയിൽ വഴി ലഭിക്കാൻ സബ്സ്ക്രൈബ് ചെയ്യുക. എപ്പോൾ വേണമെങ്കിലും അൺസബ്സ്ക്രൈബ് ചെയ്യാം.
ഇത് പ്രയോജനകരമായിരുന്നോ?സുഹൃത്തുക്കളുമായും സോഷ്യൽ മീഡിയയിലും പങ്കിടുക