人民网“天目”智能识别系统发布

发布时间:2024-11-01 07:23:05 来源: sp20241101

人民网北京12月10日电 眼前这篇论文是AI写的吗?这篇稿子的信源是AI提供的吗?大批人工智能创作工具广泛使用,网络内容治理、学术规范面临全新挑战。

12月9日,人民网正式发布“天目”智能识别系统,探索“用AI治理AI”的内容风控新模式。(体验入口:http://117.80.234.9:5080/welcome)。

“天目”由传播内容认知全国重点实验室(人民网)研发,能够对人工智能生成内容进行识别,对深度伪造内容进行检测,对合成手段进行追根溯源。公开测试数据显示,“天目”对国内外主要人工智能大模型生成中文文本的识别准确率达到93%。系统支持单次最多10万字的数据检测,对疑似AI生成句段明确标识,一键生成检测报告。同时,系统不留存、不转用任何检测数据,充分保护用户的数据隐私与安全。

图为“天目”系统检测页面

图为“天目”系统检测页面

传播内容认知全国重点实验室首席科学家张勇东表示:“我们以语言模型的困惑度、词频特征为切入点,研究发现AI生成模型倾向于采用高频词,而人类写作的选词则更具有随机性。”基于此,人民网研发了语义与风格特征融合的语言模型评价方法,推出“天目”系统,用于快速区分机器生成内容与人工创作内容。

“我们肯定AI的技术价值,积极研发,主动运用。我们也同样重视人的创新创作创意。”人民网内容风控负责人辛瑞佳表示,人类的灵感和创造力无法被机器替代,也不应被机器替代,过度依赖AI可能会削弱人的独特性。“识别AI生成的信息,从更深层讲,也是保护人类的创造价值。”

此外,人民网内容风控的另一个智能产品“人民审校”,于近期同步升级4.0版本,新增了标识审校、地标审校、商标审校、版式审校等能力,优化自定义词库功能,在涉政信息表述审校精度和广度方面实现全面提升。

下一步,人民网将加大力度研发建设主流价值语料库,帮助国产AI系统建设安全合规的语料体系,更好实现价值观对齐,助力AI产业健康安全发展。

(责编:申佳平、高雷)