الانتقال إلى المحتوى
مجتمع

أوبن أيه آي تطلق أداة للذكاء الاصطناعي للكشف عن مواد الاعتداء الجنسي على الأطفال والمحتوى الذي ينشئه الذكاء الاصطناعي

أخبار تركيا فريق التحرير · · مدة القراءة 6دقائق قراءة · المشاهدات 0 ·
الخلاصة — أوبن أيه آي أصدرت أداة تصنيف جديدة مدعومة بالذكاء الاصطناعي مصممة للكشف عن مواد الاعتداء الجنسي على الأطفال، بما في ذلك المحتوى الناتج عن الذكاء الاصطناعي. تهدف الأداة إلى إعطاء الأولوية للمحتوى المسيء لفرق المراجعة البشرية.

وطورت شركة "أوبن أيه آي" أداة تصنيف جديدة مدعومة بالذكاء الاصطناعي مصممة للكشف عن مواد الاعتداء الجنسي على الأطفال (CSAM) ، بما في ذلك الصور الناتجة عن الذكاء الاصطناعي. تحلل الأداة الإشارات المرئية لتحديد صور إساءة معاملة الأطفال التي لم يتم اكتشافها سابقًا وتوفر درجات لتحديد أولويات المحتوى لفرق المراجعة البشرية. تهدف هذه التكنولوجيا إلى تبسيط تحديد المواد غير القانونية ومساعدة منظمات السلامة في جهودها لمكافحة إساءة الاستخدام الرقمي.

تطوير الأدوات واختبار النتائج

تم تطوير الأداة بمساعدة من المركز الوطني للأطفال المفقودين والمستغلين (NCMEC) ومقره في الولايات المتحدة. تشير الاختبارات الداخلية التي أجرتها أوبن أيه آي إلى أن الأداة يمكن أن تقلل من عدد الصور التي تم الإبلاغ عنها للمراجعة اليدوية بنسبة 48٪ دون التأثير بشكل كبير على قدرات الكشف. هذا الانخفاض في عبء العمل اليدوي يسمح لفرق الاستعراض البشري بالتركيز على الحالات الأكثر حرجا التي حددها النظام.

وقد أثبتت الاختبارات الخارجية كذلك فعالية نظام التصنيف. أكدت الاختبارات التي أجرتها fal.ai أن 72٪ من الصور التي تم الإبلاغ عنها على أنها مشبوهة للغاية تحتوي على مواد مسيئة لم يتم تحديدها من قبل. بالإضافة إلى ذلك ، أظهرت اختبارات SafetyKit أن الأداة حددت 90٪ من الحالات التي تم اختبارها ، والتي تضمنت أوصافًا جنسية للأطفال في الرسوم المتحركة والرسوم المتحركة. تشير هذه النتائج إلى أن الأداة قادرة على اكتشاف أشكال معقدة من الإساءة التي قد تتجاوز طرق الكشف التقليدية.

تدابير السلامة والإنفاذ في أوبن أيه آي

أوبن أيه آي تنفذ إجراءات أمان جديدة داخل شات جي بي تي لمنع توليد المحتوى غير القانوني والوصول إليه. الشركة تقدم تحذيرات للمستخدمين الذين يحاولون الوصول إلى المحتوى المسيء وستقوم بإزالة الدردشات التي تم الإبلاغ عنها. هذه التدابير هي جزء من جهد أوسع لضمان أن نماذج الذكاء الاصطناعي التوليدية لا تسهل إنشاء أو توزيع المواد الضارة.

الشركة وضعت سياسة إنفاذ صارمة للمستخدمين الذين ينتهكون إرشادات السلامة هذه. المخالفات في ChatGPT ستؤدي إلى تعليق الوصول لمدة 24 ساعة. بالنسبة للمستخدمين الذين يرتكبون انتهاكات متكررة، قد تشمل العواقب قيودًا أطول، أو إغلاق الحساب، أو إبلاغ السلطات. هذه الإجراءات التأديبية تهدف إلى ردع استخدام الذكاء الاصطناعي للأنشطة غير القانونية.

دعم المطورين والتوزيع

لدعم النظام البيئي التكنولوجي الأوسع ، تقوم أوبن أيه آي بإصدار هذه الأداة مجانًا للمؤسسات التي تم التحقق منها عبر واجهة برمجة التطبيقات (API). هذا يسمح للمنصات والمطورين الآخرين بدمج قدرات الكشف المتقدمة في أنظمتهم الخاصة. من خلال توفير التكنولوجيا من خلال واجهة برمجة التطبيقات ، تهدف أوبن أيه آي إلى إنشاء طريقة موحدة لتحديد المواد المسيئة والإبلاغ عنها عبر البيئات الرقمية المختلفة.

علاوة على ذلك، نشرت أوبن أيه آي إرشادات لمساعدة المطورين في اكتشاف المواد المسيئة والإبلاغ عنها. هذه المبادئ التوجيهية توفر الأطر التقنية والإجرائية لمساعدة مهندسي البرمجيات ومشغلي المنصات على الحفاظ على معايير السلامة. يمثل هذا المشروع خطوة هامة في محاولة الصناعة لإدارة المخاطر المرتبطة بالمحتوى الذي يولده الذكاء الاصطناعي وانتشار مواد إساءة معاملة الأطفال الرقمية.

كُتب هذا المقال بمساعدة الذكاء الاصطناعي استنادًا إلى تقارير إخبارية متعددة، ويراجعه محررونا وفق مبادئنا التحريرية. المعايير التحريرية · المعلومات الصحفية والتواصل

ما رأيك في هذا المنشور؟

التعليقات 0

كن أول من يعلّق

اتصل بنا

← أخبار تركيا الرئيسية
أخبار تركيا تلقَّ المنشورات الجديدة عبر البريد الإلكترونياشترك لتصلك المحتويات الجديدة عبر البريد الإلكتروني. يمكنك إلغاء الاشتراك في أي وقت.
هل كان هذا مفيدًا؟شاركه مع أصدقائك وعلى مواقع التواصل الاجتماعي