开放人工智能已发布了一个新的人工智能分类工具,旨在检测儿童性虐待材料,包括人工智能生成的内容。该工具旨在为人类审查团队优先处理滥用内容。
加州总检察长Rob Bonta在旧金山高等法院对开放人工智能提出了指控安全失灵的诉讼。该法律行动是在AI平台Hugging Face发生网络攻击后采取的。
加州总检察长Rob Bonta于2026年11月17日在旧金山高等法院对开放人工智能提起诉讼,指控其在人工智能模型测试中存在安全和安保故障。