開放人工智能推出了一款由人工智慧驅動的新分類工具,旨在偵測兒童性虐待內容,包括人工智慧所產生的內容。此工具旨在為人類審查團隊優先處理濫用內容。
加州總檢察長羅布·邦塔在舊金山高等法院對開放人工智能提起訴訟,指控他涉嫌安全故障。此法律行動是在 A AI 平台Hugging Face上採用網路攻擊之後採取的。
加州檢察長羅布·本塔於2026年11月17日於舊金山高等法院對開放人工智能提出訴訟,指控在 AI 模擬測試中存在安全與安保問題。