跳至內容
社會·災難

開放人工智能推出人工智慧工具,用於偵測兒童性虐待內容及人工智慧生成內容

土耳其新聞 編輯部 · · 閱讀時長 2分鐘 · 瀏覽 0 ·
關鍵詞 — 開放人工智能推出了一款由人工智慧驅動的新分類工具,旨在偵測兒童性虐待內容,包括人工智慧所產生的內容。此工具旨在為人類審查團隊優先處理濫用內容。

開放人工智能開發了一款由人工智慧驅動的新型分類工具,旨在偵測兒童性虐待物質(CSAM),包括由人工智慧生成的影像。該工具會分析視覺線索,以辨識先前未被發現的虐童影像,並提供分數,以優先處理人類審查團隊的內容。此技術旨在簡化非法材料的辨識,並協助安全組織致力於打擊數位濫用行為。

工具開發與測試結果

該工具是在设在美國的國家失蹤與被利用儿童中心(NCMEC)的協助下開發的。由開放人工智能進行的內部測試顯示,該工具可以將標標記供手動審查的影像數量減少48%,而不會對偵測能力產生重大影響。人工工作量的減輕使人體審查團隊能夠專注於系統所辨識出的最關鍵案例。

外部測試進一步驗證了分類系統的有效性。由 afal.ai 進行的測試證實,72%被標示為高度可疑的影像中含有先前未具名的虐待物品。此外,SafetyKit 測試顯示,該工具已辨識出90%的確診病例,其中包括卡通和動畫中對兒童的性化描述。這些結果顯示,該工具能偵測出可能绕過傳統偵測方法的複雜虐待形式。

開放人工智能安全措施與強化

開放人工智能正在ChatGPT內實施新的安全措施,以防止非法內容的產生與取得。該公司正在針對試圖存取濫用內容的使用者提出警告,並將執行移除標記的聊天內容。這些措施是更廣泛努力的一部分,旨在確保生成式AI模型無法促進有害材料的產生或分發。

該公司已為違反這些安全準則的使用者制定了嚴格的執法政策。ChatGPT的違規行為將導致24小時暫停使用權限。對於屢次違規的使用者,其後果可能包括延長限制、關閉帳號或向主管機關通報。這些紀律處分旨在阻止將人工智慧用於非法活動。

開發人員支援與分發

為了支援更廣泛的科技生態系統,開放人工智能將透過其應用程式設計介面(API)向經過驗證的組織免費發布此工具。這使得其他平台和開發人員能夠將先進的偵測功能整合到他們自己的系統中。開放人工智能透過 API 提供此技術,旨在建立一種標準化的方法,以在各種數位環境中識別和報告濫用材料。

此外,開放人工智能已發布指導方針,協助開發人員偵測和通報濫用資料。這些指導方針提供技術與程序架構,協助軟體工程師與平台營運商維持安全標準。該倡議代表了產業在管理人工智慧生成內容及數位虐童資料擴散相關風險方面邁出的重要一步。

本文以多家媒體報導為基礎,借助AI工具撰寫,並依編輯原則由人工審閱。 編輯準則 · 爆料與聯絡

這篇文章怎麼樣?

評論 0

搶沙發

諮詢

← 土耳其新聞 首頁
土耳其新聞 訂閱最新內容輸入郵箱,第一時間獲取新文章。
分享分享這篇文章