مواد پر جائیں
معاشرہ

اوپن اے آئی نے بچوں کے جنسی استحصال کے مواد اور اے آئی سے تیار کردہ مواد کا پتہ لگانے کے لیے ایک اے آئی ٹول لانچ کیا

ترکی نیوز ادارتی ٹیم · · پڑھنے کا وقت 6منٹ کا مطالعہ · ملاحظات 0 ·
اہم — اوپن اے آئی نے ایک نیا اے آئی سے چلنے والا درجہ بندی کا ٹول جاری کیا ہے جو بچوں کے جنسی استحصال کے مواد کا پتہ لگانے کے لیے بنایا گیا ہے، جس میں مصنوعی ذہانت سے تیار کردہ مواد بھی شامل ہے۔ اس ٹول کا مقصد انسانی جائزہ لینے والی ٹیموں کے لیے بدسلوکی کے مواد کو ترجیح دینا ہے۔

اوپن اے آئی نے بچوں کے جنسی استحصال کے مواد (سی ایس اے ایم) کا پتہ لگانے کے لیے ڈیزائن کیا گیا اے آئی سے چلنے والا درجہ بندی کا ایک نیا ٹول تیار کیا ہے، جس میں مصنوعی ذہانت سے تیار کردہ تصاویر بھی شامل ہیں۔ یہ ٹول بچوں کے ساتھ بدسلوکی کی پہلے سے نامعلوم تصاویر کی شناخت کے لیے بصری اشاروں کا تجزیہ کرتا ہے اور انسانی جائزہ لینے والی ٹیموں کے لیے مواد کو ترجیح دینے کے لیے اسکور فراہم کرتا ہے۔ اس ٹیکنالوجی کا مقصد غیر قانونی مواد کی شناخت کو ہموار کرنا اور حفاظتی تنظیموں کو ڈیجیٹل بدسلوکی سے نمٹنے کی کوششوں میں مدد کرنا ہے۔

ٹول ڈویلپمنٹ اور ٹیسٹنگ کے نتائج

یہ ٹول ہائے متحدہ میں مقیم نیشنل سینٹر فار مسنگ اینڈ ایکسپلوئٹڈ چلڈرن (این سی ایم ای سی) کی مدد سے تیار کیا گیا تھا۔ اوپن اے آئی کے ذریعے کی جانے والی اندرونی جانچ اس بات کی نشاندہی کرتی ہے کہ یہ ٹول پتہ لگانے کی صلاحیتوں کو نمایاں طور پر متاثر کیے بغیر دستی جائزے کے لیے نشان زد کردہ تصاویر کی تعداد کو 48 فیصد تک کم کر سکتا ہے۔ دستی کام کے بوجھ میں یہ کمی انسانی جائزہ لینے والی ٹیموں کو نظام کی طرف سے شناخت کیے گئے انتہائی اہم معاملات پر توجہ مرکوز کرنے کی اجازت دیتی ہے۔

بیرونی جانچ نے درجہ بندی کے نظام کی افادیت کی مزید توثیق کی ہے۔ fal.ai کی طرف سے جانچ نے اس بات کی تصدیق کی کہ انتہائی مشکوک کے طور پر نشان زد کی گئی 72 ٪ تصاویر میں پہلے سے نامعلوم بدسلوکی کا مواد موجود تھا۔ مزید برآں، سیفٹی کٹ کے ٹیسٹوں سے پتہ چلتا ہے کہ اس ٹول نے 90 ٪ جانچ شدہ کیسوں کی نشاندہی کی، جس میں کارٹونوں اور اینیمیشنز میں بچوں کی جنسی وضاحت شامل تھی۔ ان نتائج سے پتہ چلتا ہے کہ یہ ٹول غلط استعمال کی پیچیدہ شکلوں کا پتہ لگانے کی صلاحیت رکھتا ہے جو پتہ لگانے کے روایتی طریقوں کو نظرانداز کر سکتے ہیں۔

اوپن اے آئی حفاظتی اقدامات اور نفاذ

اوپن اے آئی غیر قانونی مواد کی پیداوار اور رسائی کو روکنے کے لیے چیٹ جی پی ٹی کے اندر نئے حفاظتی اقدامات نافذ کر رہا ہے۔ کمپنی بدسلوکی کے مواد تک رسائی حاصل کرنے کی کوشش کرنے والے صارفین کے لیے انتباہات متعارف کروا رہی ہے اور فلیگڈ چیٹس کو ہٹائے گی۔ یہ اقدامات اس بات کو یقینی بنانے کے لیے ایک وسیع تر کوشش کا حصہ ہیں کہ جنریٹو اے آئی ماڈل نقصان دہ مواد کی تخلیق یا تقسیم میں سہولت فراہم نہیں کرتے ہیں۔

کمپنی نے ان حفاظتی رہنما اصولوں کی خلاف ورزی کرنے والے صارفین کے لیے ایک سخت نفاذ کی پالیسی قائم کی ہے۔ ChatGPT میں خلاف ورزیوں کے نتیجے میں 24 گھنٹے رسائی معطل ہو جائے گی۔ ان صارفین کے لیے جو بار بار خلاف ورزیوں کا ارتکاب کرتے ہیں، نتائج میں طویل پابندیاں، اکاؤنٹ بند کرنا، یا حکام کو اطلاع دینا شامل ہو سکتے ہیں۔ ان تادیبی کارروائیوں کا مقصد غیر قانونی سرگرمیوں کے لیے اے آئی کے استعمال کو روکنا ہے۔

ڈویلپر سپورٹ اور ڈسٹری بیوشن

وسیع تر تکنیکی ماحولیاتی نظام کی حمایت کرنے کے لیے، اوپن اے آئی اپنے ایپلیکیشن پروگرامنگ انٹرفیس (اے پی آئی) کے ذریعے تصدیق شدہ تنظیموں کے لیے یہ ٹول مفت جاری کر رہا ہے۔ یہ دوسرے پلیٹ فارمز اور ڈویلپرز کو اعلی درجے کی پتہ لگانے کی صلاحیتوں کو اپنے سسٹم میں ضم کرنے کی اجازت دیتا ہے۔ اے پی آئی کے ذریعے ٹیکنالوجی فراہم کرکے، اوپن اے آئی کا مقصد مختلف ڈیجیٹل ماحول میں بدسلوکی کے مواد کی شناخت اور رپورٹنگ کے لیے ایک معیاری طریقہ بنانا ہے۔

مزید برآں، اوپن اے آئی نے ڈویلپرز کو بدسلوکی کے مواد کا پتہ لگانے اور رپورٹ کرنے میں مدد کے لیے رہنما خطوط شائع کیے ہیں۔ یہ رہنما خطوط سافٹ ویئر انجینئرز اور پلیٹ فارم آپریٹرز کو حفاظتی معیارات کو برقرار رکھنے میں مدد کے لیے تکنیکی اور طریقہ کار کا فریم ورک فراہم کرتے ہیں۔ یہ پہل اے آئی سے پیدا ہونے والے مواد سے وابستہ خطرات اور بچوں کے ساتھ بدسلوکی کے ڈیجیٹل مواد کے پھیلاؤ کو سنبھالنے کی صنعت کی کوشش میں ایک اہم قدم کی نمائندگی کرتی ہے۔

یہ مضمون متعدد خبری رپورٹس کی بنیاد پر مصنوعی ذہانت کی مدد سے لکھا گیا ہے اور ہماری ادارتی پالیسی کے مطابق ہمارے ایڈیٹرز اس کا جائزہ لیتے ہیں۔ ادارتی معیارات · خبر کی اطلاع و رابطہ

آپ کو یہ پوسٹ کیسی لگی؟

تبصرے 0

سب سے پہلے تبصرہ کریں

ہم سے رابطہ کریں

← ترکی نیوز ہوم
ترکی نیوز نئی پوسٹس ای میل پر حاصل کریںنیا مواد ای میل کے ذریعے حاصل کرنے کے لیے سبسکرائب کریں۔ جب چاہیں سبسکرپشن ختم کریں۔
کیا یہ مفید تھا؟دوستوں اور سوشل میڈیا پر شیئر کریں