跳至正文
社会·灾害

开放人工智能推出人工智能工具,用于检测儿童性虐待材料和人工智能生成的内容

土耳其新闻 编辑团队 · · 阅读时间 2分钟阅读 · 浏览量 0 ·
要点 — 开放人工智能已发布了一个新的人工智能分类工具,旨在检测儿童性虐待材料,包括人工智能生成的内容。该工具旨在为人类审查团队优先处理滥用内容。

开放人工智能开发了一个新的人工智能分类工具,旨在检测儿童性虐待材料,包括人工智能生成的图像。该工具分析视觉线索,以识别以前未检测到的虐待儿童图像,并提供分数,为人类审查团队确定优先内容。该技术旨在简化非法材料的识别程序,并协助安全组织努力打击数字滥用行为。

工具开发和测试结果

该工具是在美国失踪与受剥削儿童国家中心(NCMEC)的协助下开发的。开放人工智能进行的内部测试表明,该工具可以将标出供人工审查的图像数量减少48%,而不会对检测能力产生重大影响。人工工作量的减少使人工审查小组能够专注于系统确定的最关键案例。

外部测试进一步验证了分类系统的功效。fal.ai的测试证实,72%被标记为高度可疑的图像包含以前未识别的滥用材料。此外,SafetyKit测试显示,该工具识别了90%的测试案例,其中包括动画片中对儿童的性化描述。这些结果表明,该工具能够检测出可能绕过传统检测方法的复杂形式的虐待。

开放人工智能安全措施和执法

开放人工智能正在ChatGPT范围内实施新的安全措施,以防止产生和获取非法内容。该公司正在为试图访问滥用内容的用户引入警告,并将执行删除标记的聊天。这些措施是旨在确保生成式人工智能模型不为有害材料的生成或分销提供便利的更广泛努力的一部分。

该公司针对违反这些安全准则的用户制定了严格的执法政策。违反ChatGPT将导致24小时暂停访问。对于一再违规的用户,其后果可能包括长期限制、账户关闭或向当局报告。这些纪律处分行动旨在阻止将人工智能用于非法活动。

开发者支持和分布

为了支持更广泛的技术生态系统,开放人工智能通过其应用程序编程接口(API)免费向经过验证的组织发布此工具。这允许其他平台和开发人员将高级检测功能集成到他们自己的系统中。开放人工智能通过API提供该技术,旨在创建一种标准方法,用于识别和报告各种数字环境中的滥用材料。

此外,开放人工智能还发布了指导方针,以帮助开发人员检测和报告滥用材料。这些指南提供了技术和程序框架,帮助软件工程师和平台操作人员维护安全标准。该举措是该行业试图管理人工智能生成内容相关风险以及数字式虐待儿童材料扩散的重要一步。

本文以多家媒体报道为基础,借助AI工具撰写,并依编辑原则由人工审阅。 编辑准则 · 新闻线索与联系

您觉得这篇文章怎么样?

评论 0

快来发表第一条评论

联系我们

← 土耳其新闻 首页
土耳其新闻 通过邮件接收新文章订阅后即可通过邮件接收最新内容,可随时退订。
这篇文章对您有帮助吗?分享给朋友或社交平台