মূল অংশে যান
সমাজ

ওপেনএআই শিশু যৌন নির্যাতনের উপাদান এবং এআই-উৎপাদিত কন্টেন্ট শনাক্ত করতে একটি এআই টুল চালু করেছে

তুরস্ক নিউজ সম্পাদকীয় দল · · পড়ার সময় 7মিনিটে পড়ুন · ভিউ 0 ·
মূল — ওপেনএআই শিশু যৌন নিপীড়নের উপাদান শনাক্ত করতে ডিজাইন করা একটি নতুন এআই-চালিত শ্রেণিবিন্যাস সরঞ্জাম প্রকাশ করেছে, যার মধ্যে কৃত্রিম বুদ্ধিমত্তা দ্বারা উত্পন্ন সামগ্রী অন্তর্ভুক্ত। এই সরঞ্জামটির লক্ষ্য হলো মানব পর্যালোচনা দলগুলোর জন্য অসদাচরণমূলক কন্টেন্টকে অগ্রাধিকার দেওয়া।

ওপেনএআই কৃত্রিম বুদ্ধিমত্তা দ্বারা উত্পন্ন চিত্রসহ শিশু যৌন নির্যাতনের উপাদান (CSAM) শনাক্ত করার জন্য ডিজাইন করা একটি নতুন এআই-চালিত শ্রেণিবিন্যাস সরঞ্জাম তৈরি করেছে। এই সরঞ্জামটি পূর্বে শনাক্ত করা হয়নি এমন শিশু নির্যাতনের চিত্র শনাক্ত করতে ভিজ্যুয়াল সংকেত বিশ্লেষণ করে এবং মানব পর্যালোচনা দলগুলোর জন্য কন্টেন্টকে অগ্রাধিকার দিতে স্কোর প্রদান করে। এই প্রযুক্তির লক্ষ্য হলো অবৈধ উপাদান শনাক্ত করা এবং ডিজিটাল অপব্যবহার রোধে নিরাপত্তা সংস্থাগুলোকে তাদের প্রচেষ্টায় সহায়তা করা।

সরঞ্জাম উন্নয়ন এবং পরীক্ষার ফলাফল

এই সরঞ্জামটি মার্কিন যুক্তরাষ্ট্রে অবস্থিত ন্যাশনাল সেন্টার ফর মিসিং অ্যান্ড এক্সপ্লয়েটড চিলড্রেন (NCMEC)-এর সহায়তায় তৈরি করা হয়েছিল। ওপেনএআই দ্বারা পরিচালিত অভ্যন্তরীণ পরীক্ষা নির্দেশ করে যে, এই সরঞ্জামটি সনাক্তকরণ সক্ষমতাকে উল্লেখযোগ্যভাবে প্রভাবিত না করে ম্যানুয়াল রিভিউয়ের জন্য ফ্ল্যাগ করা চিত্রের সংখ্যা ৪৮% কমাতে পারে। ম্যানুয়াল ওয়ার্কলোডের এই হ্রাস মানব পর্যালোচনা দলগুলোকে সিস্টেম দ্বারা শনাক্ত করা সবচেয়ে গুরুত্বপূর্ণ ক্ষেত্রে মনোনিবেশ করার সুযোগ দেয়।

বাহ্যিক পরীক্ষা শ্রেণিবিন্যাস পদ্ধতির কার্যকারিতাকে আরও যাচাই করেছে। fal.ai দ্বারা পরীক্ষা করে নিশ্চিত করা হয়েছে যে, ৭২% ছবি অত্যন্ত সন্দেহভাজন হিসেবে চিহ্নিত হয়েছে যাতে এর আগে অজ্ঞাত অবমাননাকর উপাদান ছিল। অধিকন্তু, SafetyKit পরীক্ষায় দেখা গেছে যে সরঞ্জামটি ৯০% পরীক্ষিত মামলা শনাক্ত করেছে, যার মধ্যে কার্টুন এবং অ্যানিমেশনে শিশুদের যৌনতাপূর্ণ বর্ণনা অন্তর্ভুক্ত ছিল। এই ফলাফলগুলো নির্দেশ করে যে এই সরঞ্জামটি জটিল ধরনের অপব্যবহার শনাক্ত করতে সক্ষম যা ঐতিহ্যবাহী শনাক্তকরণ পদ্ধতিকে বাইপাস করতে পারে।

ওপেনএআই নিরাপত্তা ব্যবস্থা এবং প্রয়োগ

অপেনএআই (ওপেনএআই) ChatGPT-এর মধ্যে নতুন নিরাপত্তা ব্যবস্থা বাস্তবায়ন করছে যাতে অবৈধ কন্টেন্ট তৈরি এবং অ্যাক্সেস রোধ করা যায়। সংস্থাটি আপত্তিজনক সামগ্রী অ্যাক্সেস করার চেষ্টা করা ব্যবহারকারীদের জন্য সতর্কতা প্রবর্তন করছে এবং পতাকাঙ্কিত চ্যাটগুলি অপসারণ করবে। এই পদক্ষেপগুলো এমন একটি বৃহত্তর প্রচেষ্টার অংশ যা নিশ্চিত করে যে জেনারেটিভ এআই মডেলগুলো ক্ষতিকারক উপাদান তৈরি বা বিতরণে সহায়তা করবে না।

কোম্পানিটি এই নিরাপত্তা নির্দেশিকাগুলো লঙ্ঘনকারী ব্যবহারকারীদের জন্য একটি কঠোর প্রয়োগ নীতি নির্ধারণ করেছে। ChatGPT-এ লঙ্ঘনের ফলে ২৪ ঘণ্টার জন্য অ্যাক্সেস স্থগিত করা হবে। বারংবার লঙ্ঘন করা ব্যবহারকারীদের জন্য, এর ফলাফলের মধ্যে আরও নিষেধাজ্ঞা, অ্যাকাউন্ট বন্ধ করা বা কর্তৃপক্ষকে রিপোর্ট করা অন্তর্ভুক্ত থাকতে পারে। এই শাস্তিমূলক পদক্ষেপগুলোর উদ্দেশ্য হলো অবৈধ কাজের জন্য এআই (AI) ব্যবহার রোধ করা।

ডেভেলপার সমর্থন এবং বিতরণ

বৃহত্তর প্রযুক্তি ইকোসিস্টেমকে সহায়তা করার জন্য, ওপেনএআই তার অ্যাপ্লিকেশন প্রোগ্রামিং ইন্টারফেস (API) এর মাধ্যমে যাচাইকৃত সংস্থাগুলোর জন্য বিনামূল্যে এই সরঞ্জামটি প্রকাশ করছে। এটি অন্যান্য প্ল্যাটফর্ম এবং ডেভেলপারদের তাদের নিজস্ব সিস্টেমে উন্নত শনাক্তকরণ ক্ষমতা একীভূত করতে সহায়তা করে। একটি API-এর মাধ্যমে প্রযুক্তি প্রদানের মাধ্যমে, ওপেনএআই-এর লক্ষ্য হলো বিভিন্ন ডিজিটাল পরিবেশে অবমাননাকর উপাদান শনাক্ত ও প্রতিবেদন করার জন্য একটি মানসম্মত পদ্ধতি তৈরি করা।

তদুপরি, ওপেনএআই ডেভেলপারদের অবমাননাকর উপাদান শনাক্ত এবং প্রতিবেদন করতে সহায়তা করার জন্য নির্দেশিকা প্রকাশ করেছে। এই নির্দেশিকাগুলো সফটওয়্যার ইঞ্জিনিয়ার এবং প্ল্যাটফর্ম অপারেটরদের নিরাপত্তা মান বজায় রাখতে সহায়তা করার জন্য প্রযুক্তিগত ও পদ্ধতিগত কাঠামো প্রদান করে। এই উদ্যোগটি এআই-জেনারেটেড কন্টেন্টের সাথে সম্পর্কিত ঝুঁকি ব্যবস্থাপনা এবং ডিজিটাল শিশু নির্যাতনের উপাদানের বিস্তারের ক্ষেত্রে শিল্পের প্রচেষ্টার একটি উল্লেখযোগ্য পদক্ষেপ।

এই নিবন্ধটি একাধিক সংবাদ প্রতিবেদনের ভিত্তিতে এআই সহায়তায় লেখা এবং আমাদের সম্পাদকীয় নীতি অনুযায়ী সম্পাদকরা এটি পর্যালোচনা করেন। সম্পাদকীয় মানদণ্ড · তথ্য দিন ও যোগাযোগ

এই পোস্টটি কেমন লাগল?

মন্তব্য 0

প্রথম মন্তব্যটি আপনিই করুন

যোগাযোগ করুন

← তুরস্ক নিউজ হোম
তুরস্ক নিউজ নতুন পোস্ট ইমেইলে পানইমেইলে নতুন কনটেন্ট পেতে সাবস্ক্রাইব করুন। যেকোনো সময় বাতিল করা যাবে।
এটি কি সহায়ক ছিল?বন্ধু ও সোশ্যাল মিডিয়ায় শেয়ার করুন