Chuyển đến nội dung
Xã hội

OpenAI ra mắt công cụ AI để phát hiện tài liệu lạm dụng tình dục trẻ em và nội dung do AI tạo ra

Turkey News Ban biên tập · · Thời gian đọc 7phút đọc · Lượt xem 0 ·
Chính — OpenAI đã phát hành một công cụ phân loại dựa trên AI mới được thiết kế để phát hiện các tài liệu lạm dụng tình dục trẻ em, bao gồm cả nội dung do trí tuệ nhân tạo tạo ra. Công cụ này nhằm ưu tiên nội dung lạm dụng cho các nhóm đánh giá con người.

OpenAI đã phát triển một công cụ phân loại dựa trên AI mới được thiết kế để phát hiện các tài liệu lạm dụng tình dục trẻ em (CSAM), bao gồm cả hình ảnh được tạo ra bởi trí tuệ nhân tạo. Công cụ này phân tích các tín hiệu hình ảnh để xác định các hình ảnh bạo hành trẻ em chưa từng bị phát hiện trước đó và cung cấp điểm số để ưu tiên nội dung cho các đội đánh giá của con người. Công nghệ này nhằm mục đích hợp lý hóa việc xác định các tài liệu bất hợp pháp và hỗ trợ các tổ chức an toàn trong nỗ lực chống lại sự lạm dụng kỹ thuật số.

Phát triển công cụ và kết quả kiểm tra

Công cụ này được phát triển với sự hỗ trợ từ Trung tâm Quốc gia về Trẻ em mất tích và bị bóc lột (NCMEC) có trụ sở tại Hoa Kỳ. Thử nghiệm nội bộ do OpenAI thực hiện cho thấy công cụ này có thể giảm số lượng hình ảnh bị gắn cờ để xem xét thủ công xuống 48% mà không ảnh hưởng đáng kể đến khả năng phát hiện. Việc giảm khối lượng công việc thủ công này cho phép các nhóm đánh giá của con người tập trung vào các trường hợp quan trọng nhất được hệ thống xác định.

Thử nghiệm bên ngoài đã xác nhận thêm hiệu quả của hệ thống phân loại. Thử nghiệm của fal.ai xác nhận rằng 72% hình ảnh được gắn cờ là rất đáng ngờ chứa các tài liệu lạm dụng chưa được xác định trước đó. Ngoài ra, các thử nghiệm của SafetyKit cho thấy công cụ này đã xác định được 90% các trường hợp được kiểm tra, bao gồm các mô tả tình dục về trẻ em trong phim hoạt hình và hoạt hình. Những kết quả này cho thấy công cụ này có khả năng phát hiện các hình thức lạm dụng phức tạp có thể vượt qua các phương pháp phát hiện truyền thống.

Các biện pháp an toàn và thực thi OpenAI

OpenAI đang triển khai các biện pháp an toàn mới trong ChatGPT nhằm ngăn chặn việc tạo ra và truy cập các nội dung bất hợp pháp. Công ty đang đưa ra các cảnh báo cho những người dùng cố gắng truy cập nội dung lạm dụng và sẽ thực hiện việc xóa các cuộc trò chuyện bị gắn cờ. Các biện pháp này là một phần trong nỗ lực rộng lớn hơn nhằm đảm bảo các mô hình AI tạo sinh không tạo điều kiện cho việc tạo ra hoặc phân phối các vật liệu độc hại.

Công ty đã thiết lập một chính sách thực thi nghiêm ngặt đối với những người dùng vi phạm các hướng dẫn an toàn này. Vi phạm tại ChatGPT sẽ dẫn đến việc tạm dừng truy cập trong 24 giờ. Đối với những người dùng vi phạm nhiều lần, hậu quả có thể bao gồm các hạn chế kéo dài, đóng tài khoản hoặc báo cáo với cơ quan chức năng. Các biện pháp kỷ luật này nhằm mục đích ngăn chặn việc sử dụng AI cho các hoạt động bất hợp pháp.

Hỗ trợ và phân phối cho nhà phát triển

Để hỗ trợ hệ sinh thái công nghệ rộng lớn hơn, OpenAI đang phát hành công cụ này miễn phí cho các tổ chức đã được xác minh thông qua giao diện lập trình ứng dụng (API). Điều này cho phép các nền tảng và nhà phát triển khác tích hợp khả năng phát hiện tiên tiến vào hệ thống của riêng họ. Bằng cách cung cấp công nghệ thông qua API, OpenAI nhằm mục đích tạo ra một phương pháp tiêu chuẩn để xác định và báo cáo các tài liệu lạm dụng trên nhiều môi trường kỹ thuật số khác nhau.

Hơn nữa, OpenAI đã công bố các hướng dẫn nhằm hỗ trợ các nhà phát triển trong việc phát hiện và báo cáo các tài liệu lạm dụng. Các hướng dẫn này cung cấp các khuôn khổ kỹ thuật và quy trình để giúp các kỹ sư phần mềm và nhà vận hành nền tảng duy trì các tiêu chuẩn an toàn. Sáng kiến này đại diện cho một bước tiến quan trọng trong nỗ lực của ngành nhằm quản lý các rủi ro liên quan đến nội dung do AI tạo ra và sự phổ biến của các tài liệu kỹ thuật số bạo hành trẻ em.

Bài viết này được viết với sự hỗ trợ của AI dựa trên nhiều nguồn tin và được ban biên tập kiểm duyệt theo nguyên tắc biên tập của chúng tôi. Tiêu chuẩn biên tập · Cung cấp tin & Liên hệ

Bạn thấy bài viết này thế nào?

Bình luận 0

Hãy là người đầu tiên bình luận

Liên hệ

← Turkey News Trang chủ
Turkey News Nhận bài viết mới qua emailĐăng ký để nhận nội dung mới qua email. Có thể hủy bất cứ lúc nào.
Bài viết có hữu ích không?Chia sẻ với bạn bè & mạng xã hội