OpenAI משיקה כלי AI לזיהוי חומר התעללות מינית בילדים ותוכן שנוצר על ידי AI
OpenAI פיתחה כלי סיווג חדש המופעל על ידי בינה מלאכותית, שנועד לזהות חומר להתעללות מינית בילדים (CSAM), כולל תמונות שנוצרו על ידי בינה מלאכותית. הכלי מנתח רמזים חזותיים כדי לזהות תמונות של התעללות בילדים שלא זוהו בעבר ומספק ציונים כדי לתעדף תוכן עבור צוותי ביקורת אנושיים. טכנולוגיה זו נועדה לייעל את הזיהוי של חומר בלתי חוקי ולסייע לארגוני בטיחות במאמציהם להילחם בהתעללות דיגיטלית.
פיתוח כלים ותוצאות בדיקות
הכלי פותח בסיוע המרכז הלאומי לילדים נעדרים ומנוצלים (NCMEC) שבסיסו בארצות הברית. בדיקות פנימיות שנערכו על ידי OpenAI מצביעות על כך שהכלי יכול להפחית את מספר התמונות שסומנו לבדיקה ידנית ב-48% מבלי להשפיע באופן משמעותי על יכולות הזיהוי. הפחתה זו בעומס העבודה הידני מאפשרת לצוותי בדיקה אנושיים להתמקד במקרים הקריטיים ביותר שזוהו על ידי המערכת.
בדיקות חיצוניות אימתו עוד יותר את היעילות של מערכת הסיווג. בדיקה שלfal.ai אישרה כי 72% מהתמונות שסומנו כחשודות ביותר הכילו חומר פוגעני שלא זוהה בעבר. בנוסף, בדיקות SafetyKit הראו שהכלי זיהה 90% מהמקרים שנבדקו, שכללו תיאורים מיניים של ילדים בסרטים מצוירים ואנימציות. תוצאות אלה מצביעות על כך שהכלי מסוגל לזהות צורות מורכבות של התעללות שעלולות לעקוף את שיטות הזיהוי המסורתיות.
אמצעי בטיחות ואכיפה של OpenAI
OpenAI מיישמת אמצעי בטיחות חדשים בתוך ChatGPT כדי למנוע יצירה וגישה של תוכן בלתי חוקי. החברה מציגה אזהרות למשתמשים המנסים לגשת לתוכן פוגעני ותבצע הסרה של צ'אטים מסומנים. אמצעים אלה הם חלק ממאמץ רחב יותר להבטיח שמודלים של בינה מלאכותית אינם מאפשרים יצירה או הפצה של חומר מזיק.
החברה קבעה מדיניות אכיפה קפדנית למשתמשים המפרים הנחיות בטיחות אלה. הפרות ב-ChatGPT יגרמו להשעיה של 24 שעות. עבור משתמשים שביצעו הפרות חוזרות ונשנות, ההשלכות עשויות לכלול הגבלות ארוכות יותר, סגירת חשבון או דיווח לרשויות. פעולות משמעת אלה נועדו להרתיע את השימוש ב- AI לפעילות בלתי חוקית.
תמיכה והפצה למפתחים
כדי לתמוך באקוסיסטם הטכנולוגי הרחב יותר, OpenAI משחררת את הכלי הזה בחינם לארגונים מאומתים באמצעות ממשק תכנות היישומים שלה (API). זה מאפשר לפלטפורמות ולמפתחים אחרים לשלב יכולות זיהוי מתקדמות במערכות שלהם. על ידי אספקת הטכנולוגיה באמצעות API, OpenAI שואפת ליצור שיטה סטנדרטית לזיהוי ודיווח על חומר פוגעני בסביבות דיגיטליות שונות.
יתר על כן, OpenAI פרסמה הנחיות כדי לסייע למפתחים באיתור ודיווח על חומר פוגע. הנחיות אלה מספקות מסגרות טכניות ופרוצדורליות כדי לסייע למהנדסי תוכנה ולמפעילי פלטפורמות לשמור על תקני בטיחות. היוזמה מייצגת צעד משמעותי בניסיון של התעשייה לנהל את הסיכונים הקשורים לתוכן שנוצר על ידי AI והתפשטות של חומר דיגיטלי להתעללות בילדים.
כתבה זו נכתבה בסיוע בינה מלאכותית על סמך מספר דיווחים חדשותיים, ונבדקת על ידי העורכים שלנו בהתאם לעקרונות העריכה שלנו. סטנדרטים מערכתיים · טיפים ויצירת קשר
תגובות 0