ข้ามไปยังเนื้อหา
สังคม

โอเพนเอไอเปิดตัวเครื่องมือ AI ตรวจจับเนื้อหาการล่วงละเมิดทางเพศเด็กและเนื้อหาที่สร้างโดย AI

ข่าวตุรกี ทีมบรรณาธิการ · · เวลาในการอ่าน 7นาทีในการอ่าน · ยอดเข้าชม 0 ·
สาระสำคัญ — โอเพนเอไอได้เปิดตัวเครื่องมือจำแนกประเภทที่ขับเคลื่อนด้วย AI ใหม่ที่ออกแบบมาเพื่อตรวจจับเนื้อหาการล่วงละเมิดทางเพศเด็ก รวมถึงเนื้อหาที่สร้างขึ้นโดยปัญญาประดิษฐ์ เครื่องมือนี้มีจุดมุ่งหมายเพื่อจัดลำดับความสำคัญของเนื้อหาที่ไม่เหมาะสมสำหรับทีมตรวจสอบของมนุษย์

โอเพนเอไอได้พัฒนาเครื่องมือจำแนกประเภทที่ขับเคลื่อนด้วย AI ใหม่ที่ออกแบบมาเพื่อตรวจจับวัสดุการล่วงละเมิดทางเพศเด็ก (CSAM) รวมถึงรูปภาพที่สร้างขึ้นโดยปัญญาประดิษฐ์ เครื่องมือวิเคราะห์สัญญาณภาพเพื่อระบุภาพการทารุณกรรมเด็กที่ตรวจไม่พบก่อนหน้านี้และให้คะแนนเพื่อจัดลำดับความสำคัญของเนื้อหาสำหรับทีมตรวจสอบของมนุษย์ เทคโนโลยีนี้มีจุดมุ่งหมายเพื่อเพิ่มความคล่องตัวในการระบุตัวตนของวัสดุที่ผิดกฎหมาย และช่วยเหลือองค์กรด้านความปลอดภัยในความพยายามในการต่อสู้กับการละเมิดทางดิจิทัล

ผลการพัฒนาและทดสอบเครื่องมือ

เครื่องมือนี้ได้รับการพัฒนาโดยได้รับความช่วยเหลือจากศูนย์เด็กหายและถูกเอารัดเอาเปรียบแห่งชาติ (NCMEC) ซึ่งตั้งอยู่ในสหรัฐอเมริกา การทดสอบภายในที่ดำเนินการโดยโอเพนเอไอระบุว่าเครื่องมือสามารถลดจำนวนภาพที่ตั้งค่าสถานะไว้สำหรับการตรวจสอบด้วยตนเองได้ 48% โดยไม่ส่งผลกระทบต่อความสามารถในการตรวจจับอย่างมีนัยสำคัญ การลดภาระงานด้วยตนเองนี้ทำให้ทีมตรวจสอบของมนุษย์สามารถมุ่งเน้นไปที่กรณีที่สำคัญที่สุดที่ระบบระบุได้

การทดสอบภายนอกได้ตรวจสอบประสิทธิภาพของระบบการจำแนกประเภทเพิ่มเติม การทดสอบโดย fal.ai ยืนยันว่า 72% ของภาพที่ระบุว่าน่าสงสัยสูงมีเนื้อหาที่ไม่เหมาะสมที่ไม่ปรากฏมาก่อน นอกจากนี้การทดสอบ SafetyKit แสดงให้เห็นว่าเครื่องมือนี้ระบุ 90% ของกรณีที่ทดสอบซึ่งรวมถึงคำอธิบายทางเพศของเด็กในการ์ตูนและภาพเคลื่อนไหว ผลลัพธ์เหล่านี้ชี้ให้เห็นว่าเครื่องมือนี้สามารถตรวจจับรูปแบบการละเมิดที่ซับซ้อนซึ่งอาจหลีกเลี่ยงวิธีการตรวจจับแบบเดิม ๆ

มาตรการความปลอดภัยและการบังคับใช้โอเพนเอไอ

โอเพนเอไอกำลังใช้มาตรการความปลอดภัยใหม่ภายในChatGPTเพื่อป้องกันการสร้างและการเข้าถึงเนื้อหาที่ผิดกฎหมาย บริษัท กำลังแนะนำคำเตือนสำหรับผู้ใช้ที่พยายามเข้าถึงเนื้อหาที่ไม่เหมาะสมและจะดำเนินการลบการแชทที่ตั้งค่าสถานะ มาตรการเหล่านี้เป็นส่วนหนึ่งของความพยายามที่กว้างขึ้นเพื่อให้แน่ใจว่าโมเดลปัญญาประดิษฐ์แบบรู้สร้างไม่อำนวยความสะดวกในการสร้างหรือแจกจ่ายวัสดุที่เป็นอันตราย

บริษัท ได้กำหนดนโยบายการบังคับใช้ที่เข้มงวดสำหรับผู้ใช้ที่ละเมิดแนวทางความปลอดภัยเหล่านี้ การละเมิดในChatGPTจะส่งผลให้มีการระงับการเข้าถึงตลอด 24 ชั่วโมง สำหรับผู้ใช้ที่กระทำการละเมิดซ้ำแล้วซ้ำเล่า ผลที่ตามมาอาจรวมถึงข้อจำกัดที่นานขึ้น การปิดบัญชี หรือการรายงานต่อเจ้าหน้าที่ การดำเนินการทางวินัยเหล่านี้มีวัตถุประสงค์เพื่อยับยั้งการใช้ AI สำหรับกิจกรรมที่ผิดกฎหมาย

การสนับสนุนและการกระจายของนักพัฒนา

เพื่อสนับสนุนระบบนิเวศทางเทคโนโลยีที่กว้างขึ้นโอเพนเอไอกำลังปล่อยเครื่องมือนี้ฟรีให้กับองค์กรที่ได้รับการยืนยันผ่านอินเทอร์เฟซการเขียนโปรแกรมแอปพลิเคชัน (API) สิ่งนี้ทำให้แพลตฟอร์มและนักพัฒนาซอฟต์แวร์รายอื่น ๆ สามารถรวมความสามารถในการตรวจจับขั้นสูงเข้ากับระบบของตนเองได้ ด้วยการจัดหาเทคโนโลยีผ่าน APIโอเพนเอไอมีเป้าหมายเพื่อสร้างวิธีการที่เป็นมาตรฐานสำหรับการระบุและรายงานวัสดุที่ไม่เหมาะสมในสภาพแวดล้อมดิจิทัลต่างๆ

นอกจากนี้โอเพนเอไอยังได้เผยแพร่แนวทางการช่วยเหลือนักพัฒนาในการตรวจจับและรายงานเนื้อหาที่ไม่เหมาะสม แนวทางเหล่านี้ให้กรอบทางเทคนิคและขั้นตอนเพื่อช่วยให้วิศวกรซอฟต์แวร์และผู้ประกอบการแพลตฟอร์มรักษามาตรฐานความปลอดภัย. ความคิดริเริ่มนี้แสดงถึงขั้นตอนสำคัญในความพยายามของอุตสาหกรรมในการจัดการความเสี่ยงที่เกี่ยวข้องกับเนื้อหาที่สร้างโดย AI และการแพร่กระจายของวัสดุการทารุณกรรมเด็กดิจิทัล

บทความนี้เขียนโดยใช้ AI ช่วยจากรายงานข่าวหลายแหล่ง และผ่านการตรวจทานโดยบรรณาธิการตามหลักการบรรณาธิการของเรา มาตรฐานด้านบรรณาธิการ · แจ้งข่าวและติดต่อเรา

คุณคิดอย่างไรกับโพสต์นี้?

ความคิดเห็น 0

ร่วมแสดงความคิดเห็นเป็นคนแรก

ติดต่อเรา

← ข่าวตุรกี หน้าแรก
ข่าวตุรกี รับโพสต์ใหม่ทางอีเมลสมัครเพื่อรับเนื้อหาใหม่ทางอีเมล ยกเลิกได้ทุกเมื่อ
เนื้อหานี้มีประโยชน์ไหม?แชร์ให้เพื่อนและโซเชียล