โอเพนเอไอเปิดตัวเครื่องมือ AI ตรวจจับเนื้อหาการล่วงละเมิดทางเพศเด็กและเนื้อหาที่สร้างโดย AI
โอเพนเอไอได้พัฒนาเครื่องมือจำแนกประเภทที่ขับเคลื่อนด้วย AI ใหม่ที่ออกแบบมาเพื่อตรวจจับวัสดุการล่วงละเมิดทางเพศเด็ก (CSAM) รวมถึงรูปภาพที่สร้างขึ้นโดยปัญญาประดิษฐ์ เครื่องมือวิเคราะห์สัญญาณภาพเพื่อระบุภาพการทารุณกรรมเด็กที่ตรวจไม่พบก่อนหน้านี้และให้คะแนนเพื่อจัดลำดับความสำคัญของเนื้อหาสำหรับทีมตรวจสอบของมนุษย์ เทคโนโลยีนี้มีจุดมุ่งหมายเพื่อเพิ่มความคล่องตัวในการระบุตัวตนของวัสดุที่ผิดกฎหมาย และช่วยเหลือองค์กรด้านความปลอดภัยในความพยายามในการต่อสู้กับการละเมิดทางดิจิทัล
ผลการพัฒนาและทดสอบเครื่องมือ
เครื่องมือนี้ได้รับการพัฒนาโดยได้รับความช่วยเหลือจากศูนย์เด็กหายและถูกเอารัดเอาเปรียบแห่งชาติ (NCMEC) ซึ่งตั้งอยู่ในสหรัฐอเมริกา การทดสอบภายในที่ดำเนินการโดยโอเพนเอไอระบุว่าเครื่องมือสามารถลดจำนวนภาพที่ตั้งค่าสถานะไว้สำหรับการตรวจสอบด้วยตนเองได้ 48% โดยไม่ส่งผลกระทบต่อความสามารถในการตรวจจับอย่างมีนัยสำคัญ การลดภาระงานด้วยตนเองนี้ทำให้ทีมตรวจสอบของมนุษย์สามารถมุ่งเน้นไปที่กรณีที่สำคัญที่สุดที่ระบบระบุได้
การทดสอบภายนอกได้ตรวจสอบประสิทธิภาพของระบบการจำแนกประเภทเพิ่มเติม การทดสอบโดย fal.ai ยืนยันว่า 72% ของภาพที่ระบุว่าน่าสงสัยสูงมีเนื้อหาที่ไม่เหมาะสมที่ไม่ปรากฏมาก่อน นอกจากนี้การทดสอบ SafetyKit แสดงให้เห็นว่าเครื่องมือนี้ระบุ 90% ของกรณีที่ทดสอบซึ่งรวมถึงคำอธิบายทางเพศของเด็กในการ์ตูนและภาพเคลื่อนไหว ผลลัพธ์เหล่านี้ชี้ให้เห็นว่าเครื่องมือนี้สามารถตรวจจับรูปแบบการละเมิดที่ซับซ้อนซึ่งอาจหลีกเลี่ยงวิธีการตรวจจับแบบเดิม ๆ
มาตรการความปลอดภัยและการบังคับใช้โอเพนเอไอ
โอเพนเอไอกำลังใช้มาตรการความปลอดภัยใหม่ภายในChatGPTเพื่อป้องกันการสร้างและการเข้าถึงเนื้อหาที่ผิดกฎหมาย บริษัท กำลังแนะนำคำเตือนสำหรับผู้ใช้ที่พยายามเข้าถึงเนื้อหาที่ไม่เหมาะสมและจะดำเนินการลบการแชทที่ตั้งค่าสถานะ มาตรการเหล่านี้เป็นส่วนหนึ่งของความพยายามที่กว้างขึ้นเพื่อให้แน่ใจว่าโมเดลปัญญาประดิษฐ์แบบรู้สร้างไม่อำนวยความสะดวกในการสร้างหรือแจกจ่ายวัสดุที่เป็นอันตราย
บริษัท ได้กำหนดนโยบายการบังคับใช้ที่เข้มงวดสำหรับผู้ใช้ที่ละเมิดแนวทางความปลอดภัยเหล่านี้ การละเมิดในChatGPTจะส่งผลให้มีการระงับการเข้าถึงตลอด 24 ชั่วโมง สำหรับผู้ใช้ที่กระทำการละเมิดซ้ำแล้วซ้ำเล่า ผลที่ตามมาอาจรวมถึงข้อจำกัดที่นานขึ้น การปิดบัญชี หรือการรายงานต่อเจ้าหน้าที่ การดำเนินการทางวินัยเหล่านี้มีวัตถุประสงค์เพื่อยับยั้งการใช้ AI สำหรับกิจกรรมที่ผิดกฎหมาย
การสนับสนุนและการกระจายของนักพัฒนา
เพื่อสนับสนุนระบบนิเวศทางเทคโนโลยีที่กว้างขึ้นโอเพนเอไอกำลังปล่อยเครื่องมือนี้ฟรีให้กับองค์กรที่ได้รับการยืนยันผ่านอินเทอร์เฟซการเขียนโปรแกรมแอปพลิเคชัน (API) สิ่งนี้ทำให้แพลตฟอร์มและนักพัฒนาซอฟต์แวร์รายอื่น ๆ สามารถรวมความสามารถในการตรวจจับขั้นสูงเข้ากับระบบของตนเองได้ ด้วยการจัดหาเทคโนโลยีผ่าน APIโอเพนเอไอมีเป้าหมายเพื่อสร้างวิธีการที่เป็นมาตรฐานสำหรับการระบุและรายงานวัสดุที่ไม่เหมาะสมในสภาพแวดล้อมดิจิทัลต่างๆ
นอกจากนี้โอเพนเอไอยังได้เผยแพร่แนวทางการช่วยเหลือนักพัฒนาในการตรวจจับและรายงานเนื้อหาที่ไม่เหมาะสม แนวทางเหล่านี้ให้กรอบทางเทคนิคและขั้นตอนเพื่อช่วยให้วิศวกรซอฟต์แวร์และผู้ประกอบการแพลตฟอร์มรักษามาตรฐานความปลอดภัย. ความคิดริเริ่มนี้แสดงถึงขั้นตอนสำคัญในความพยายามของอุตสาหกรรมในการจัดการความเสี่ยงที่เกี่ยวข้องกับเนื้อหาที่สร้างโดย AI และการแพร่กระจายของวัสดุการทารุณกรรมเด็กดิจิทัล
บทความนี้เขียนโดยใช้ AI ช่วยจากรายงานข่าวหลายแหล่ง และผ่านการตรวจทานโดยบรรณาธิการตามหลักการบรรณาธิการของเรา มาตรฐานด้านบรรณาธิการ · แจ้งข่าวและติดต่อเรา
ความคิดเห็น 0