君同未来
首页
产品中心
解决方案
企业动态
资源中心
关于我们
the-earth简体中文
menu
产品中心
君测
君测
生成式人工智能评测验证系统决策式人工智能评测增强系统
君控
君控
人工智能风险防护系统人工智能监测管控系统
君学
君学
人工智能教学演练系统人工智能科研实验系统人工智能靶场实训系统人工智能竞赛实战系统
君识
君识
AIGC检测溯源系统AIGC标识溯源系统
解决方案
按场景
按场景
金融场景能源场景汽车场景教育场景运营商场景物联网场景政务服务场景
按案例
按案例
Chat基底模型应用Agent场景化服务RAG知识库应用
企业动态
资源中心
关于我们
关于我们
关于我们
企业动态
企业动态
预约咨询
预约咨询

产品咨询热线

400-600-2030

市场合作

info@gentel.com

官方微信

官方微信
君同未来 | 助力人类基础脑力劳动可信替代
联系我们
  • 地址:
    浙江省杭州市滨江区东信大道东方通信产业园2号楼
  • 合作:info@gentel.com
  • 电话:400-600-2030
  • 微信公众号
© 2021-2025 杭州君同未来科技有限责任公司版权所有浙ICP备2021034072号浙公网安备33010802013572号
© 2021-2025 杭州君同未来科技有限责任公司版权所有
浙ICP备2021034072号
浙公网安备33010802013572号
君同AIGC检测标识溯源平台方案,全栈能力满足政策合规、业务可信
新闻动态
|
2025.03.25

在技术变革、政策牵引、需求爆发的多重驱动下,君同未来重磅发布「AIGC检测标识溯源平台」方案,提供AI生成合成内容的标识溯源与检测定位全栈能力矩阵, 全面覆盖非法内容生成、误导性信息传播、数字证据篡改等违法违规行为的检测防范以及国家标准要求下的AI生成合成内容标识、溯源等需求,积极参与AI治理,促进AIGC产业健康发展。

君同未来作为国内最早关注并开展深度合成伪造识别、AIGC生成内容识别有关研究的团队之一,产品矩阵和解决方案凝结了团队底层算法的原始创新、 国家级工程化能力的沉淀、产学研用的演进闭环、前瞻性的合规生态布局、以及多个全链路治理案例的实际验证。

依托团队在多模态伪造内容真实性检测课题的深厚积累,君同携手中国电信成功立项全球首个伪造内容检测领域的ITU国际标准 (New: H.VADS: Proposed a new work item on “Assessment criteria for video authenticity detection services”),并构建了一套涵盖文本、图像、音视频的全模态真实性检测体系。

一、发布背景:需求和政策双驱动

1、AI生成内容伪造,成两会热点

两会期间,关于人工智能及AI安全的热点提案多达40项,全国人大代表雷军呼吁加强“AI换脸拟声违法侵权”治理、 李东生建议加强“AI 深度伪造欺诈”管理、靳东建议严管“AI 深度伪造技术滥用”……企业家和明星人物纷纷呼吁从立法和技术层面加强对AI生成内容的治理,引发广泛热议,也进一步引发全社会对AI生成内容伪造的担忧。

2、社会关注焦点,也是治理重点

利用AI“多人换脸”实施诈骗,涉案金额高达2亿港元;天津李先生被AI合成的“领导”视频诱导转账95万元……类似新闻频见报端 ,“AI换脸拟声”不当滥用成了违法侵权行为的重灾区,深度伪造(DeepFake)、人工智能生成内容乱象、电信诈骗等违法违规问题成为社会关注焦点,引发广泛担忧。如何通过技术手段有效监管、检测、治理AI伪造内容,成为亟待解决的问题。

3、四部门联合发布,政策立法就位

近日,国家互联网信息办公室、工业和信息化部、公安部、国家广播电视总局等四部门联合发布 《人工智能生成合成内容标识办法》,自2025年9月1日起施行;国家标准《网络安全技术 人工智能生成合成内容标识方法》 也已正式批准发布(2025年第3号),适用于生成合成服务提供者和内容传播服务提供者开展人工智能生成合成内容标识活动,9月1日同步实施。

二、方案能力与亮点

君同AIGC检测标识溯源平台,广泛应用于图像、视频、音频、文本等多种模态的数据处理中,核心 能力包括标识、溯源、检测、定位。如面向内容生产者/传播者提供标识、溯源服务;面向内容使用者提供检测、定位服务。旨在通过有效识别生成合成内容信息,提供可视化证据,并追踪内容来源,维护信息真实性和安全性,确保数字内容的可信度。

图注:平台能力框架图

图注:方案收益

1、标识能力:政策监管合规化&业务需求的双重满足

在AI生成的图像、视频、音频、文本等内容上嵌入隐性或者显式标识,明确标注生成来源,以及检测是否依据《网络安全技术 人工智能生成合成内容标识方法》对AI生成内容进行规范标识。

举例:某银行使用方案标识能力对 AI 生成的客户风险评估报告进行标识,既符合《人工智能生成合成内容标识方法》等法规要求,又保障了金融信息的可追溯性与合规性。"

2、溯源能力:生成来源与传播路径的全链路溯源取证

针对网信部门、企业风控等有内容来源追踪需求的场景,通过模型指纹、设备指纹、模型特征提取、元数据分析等技术,追踪内容的生成来源(如特定 AI 模型)及传播路径,为内容监管、取证、风控提供支持。

举例:某地网信办运用方案溯源能力,成功定位到某网络谣言的初始生成源头,并追踪其在多个社交平台的传播链路,为依法处置提供关键证据。

3、检测能力:全模态智能审核,筑牢内容安全防线

针对社交媒体平台、新闻机构等需多维度内容审核的场景,通过深度学习、模式分析和统计方法,自动检测、识别图像篡改(如 PS 换脸)、AI 生成视频 (如换脸诈骗类)、合成语音(如模仿名人的虚假类)及 AI 编造文本(如谣言文章)等虚假内容,提升信息真实性审核能力。

举例:某短视频平台接入方案后,对用户上传的图文视频进行实时检测识别,成功拦截 98% 的虚假内容,大幅提升平台内容真实性。

4、定位能力:可视化快速分析,精准定位造假细节

面向媒体编辑部、司法鉴定机构等需精细分析的场景,采用热力图与边界框技术,精准定位生成、合成内容的位置, 并分析篡改手法,如人脸交换、背景合成、内容篡改等,定位篡改/造假细节,为媒体、司法等机构提供相关风险提示。

举例:在一起合同纠纷案件中,通过内容篡改检测技术,识别出合同文本中的关键金额存在被篡改的较大可能性,为办案方提供文本造假风险提醒,通过技术手段提示案件审查方向、提升办案效率。

三、方案特性与优势

君同AIGC检测标识溯源平台方案在AI生成合成内容的标识溯源与检测定位领域发挥重要作用,其优势特性如下:

  • 精确性:基于千万级数据的测试及权威机构检测验证,平均检测准确性达98.7%;误报率不超过2.1%;对生成合成区域位置标定的正确率达到99.4%以上
  • 高效性:具备对海量数据的低延迟实时分析能力,服务接口响应时间<200ms,满足视频通话/会议等场景需求;利用并行计算优化技术提升处理速度,轻量部署实现不低于20request/s的TPS,支持弹性扩容
  • 泛化性:具备优越的泛化性能,能够在面对未知的生成算法时,仍然保持优秀的检测效果。同时,平台开放训练接口,用户只需要收集少量样本(100条),就能够通过基于元学习与增量学习算法的训练增强策略,使得在10轮的训练迭代内,对未知生成算法的生成合成内容的检测准确率达到97%以上
  • 可解释性:生成详细检测报告,含伪造手法、置信度评分、篡改特征等信息,使用户能够理解检测结论,提高溯源与取证能力

四、典型应用场景

生成内容标识

无论政策立法,还是各行业客户对于内容安全可信的诉求,规范生成内容的标识管理已成为基本要求。A IGC检测标识溯源平台方案提供强大、全面的生成内容标识能力,针对各类内容生成平台产出的内容,轻松添加上显式或隐式标识,清晰标注内容来源与属性,有效规范内容生态。

网页内容监管

随着“AI伪造”技术的滥用,网页正成为传播AI伪造内容的重要途径。平台方案的检测、标识、溯源功能,可实现对网页中AIGC内容的全面自动化扫描,检查AI生成内容的标识是否符合规范,并及时对未标注AI生成内容的情况进行预警。

防范电信诈骗

常见的电信诈骗手段,不法分子利用技术手段对图视频、音频等进行伪造,伪造的信息模态具有极高欺骗性,普通用户往往难辨真伪。平台方案的识别、定位功能,帮助用户精准识别合成语音、换脸视频和伪造图像,及时发现冒充亲友、领导或客服的诈骗行为。

AI代写检测

随着生成式人工智能的快速发展,AI代写正成为破坏学术诚信、扰乱科研评价体系的重要隐患,影响学术成果的真实性与可信度。 平台提供学术内容AI代写检测服务,具备快速识别、分析和预警能力,可辅助用户判断文章是否由AI生成,维护学术环境的公平与规范。

人脸认证保护

人脸认证技术广泛应用于身份验证、门禁管理、支付安全等场景,提升了操作便捷性,但也面临照片欺骗、视频合成、3D面具等AI生成伪造手段带来的严峻挑战。 平台方案的识别、定位能力,精准识别伪造人脸、深度合成视频,并能通过应对对抗样本攻击,有效防止伪造内容绕过人脸认证系统,确保身份认证的准确性,防止不法分子利用伪造手段进行身份欺诈,保障身份验证的真实性与系统安全。

防范虚假信息传播

AI生成的虚假信息在网络空间加速蔓延,借助合成图像、伪造音视频等手段轻易编造人物言论与行为,造成公众误判,严重侵害他人声誉与社会信任。 平台提供面向图文音视频的多模态一体化AIGC检测能力,支持对可疑内容快速校验与真伪判断,精准识别AI生成的虚假信息,助力遏制有害内容扩散。

五、进化史:技术跃迁与行业定义

君同AIGC检测标识溯源平台方案,依托全球领先科研团队在“深度合成伪造识别”领域的课题研究成果,通过标识溯源和伪造检测双重模式的持续试验探索,历经多场景打磨和权威机构测试验证,在多行业客户实践中实现了技术成果的商业化落地。

能力在科研课题中诞生

  • 2022年以来,团队成员陆续牵头了教育部、科技部、国家自然科学基金等多个相关科研项目,承担了工信部相关平台建设任务,深度合成与真伪识别研究方向问鼎人工智能安全领域四大顶会(CCS、NDSS、S&P和Usenix Security )以及TIFS、TPDS 国际顶刊,已发表相关高水平论文20余篇
  • 围绕核心技术,形成发明专利10余项

产品在需求打磨中迭代

  • 产品能力基于客户场景需求不断打磨,优化产品算法,迭代模型,真正实现核心技术与业务场景的深度融合,以及识别精准度与防御能力的升级
  • 通过服务运营商、公安部某监管方、某大型互联网企业,实现伪造内容识别接口日均调用量百万级,时限内伪造内容精准拦截累计十万余条的能力沉淀
  • 头部运营商实测环境平台性能表现卓越:日均处理流量达亿级,精准拦截数十万次电诈风险;单帧图像检测耗时 < 500ms,可支撑日均千万级内容审核,且误报率低于2.1%

方案在认证测试中进化

  • 2022年以来,团队成员陆续牵头了教育部、科技部、国家自然科学基金等多个相关科研项目,承担了工信部相关平台建设任务,深度合成与真伪识别研究方向问鼎人工智能安全领域四大顶会(CCS、NDSS、S&P和Usenix Security )以及TIFS、TPDS 国际顶刊,已发表相关高水平论文20余篇
  • 围绕核心技术,形成发明专利10余项

能力在科研课题中诞生

  • 方案能力经过工信部电子第五研究所等多家权威机构测试认证:对AIGC伪造内容的发现多模态伪造检测准确率、伪造视频检测速率、溯源完整度(证据链覆盖率98.7%)等多个关键指标,处于领先。
  • 检测准确率、实时性等关键指标表现优异:图像、视频模态的AI生成、人脸伪造的检测准确率高达98.7%,AI文本生成的检测准确率99.4%以上;720P和1080P分辨率伪视频检测速率达52FPS以上

六、方案核心技术壁垒

作为国内首批深度合成内容安全研究国家队之一,君同以「算法 - 产品 - 场景」三位一体的技术哲学,构建了平台的四大核心壁垒:

底层算法的原始创新

依托团队在多模态伪造内容真实性检测课题的深厚积累,深度参与多模态伪造检测相关的ITU国际标准制定(New: H.VADS: Proposed a new work item on “Assessment criteria for video authenticity detection services”),构建了覆盖文本、图像、音视频、3D 虚拟人的全模态检测体系。

AIGC生成内容、深度伪造相关技术领域研究成果《Scalable Universal Adversarial Watermark Defending against Facial Forgery》登上 IEEE TIFS。该方法通过有效继承预水印,并针对新型伪造模型对水印进行自适应微调,实现了水印防御范围的高效扩展,为抵御面部伪造行为提供了一种可扩展的通用对抗性水印方案。

国家级工程化能力沉淀

历经多个行业标杆客户数十个复杂场景的锤炼(包括某省级公安的涉诈视频溯源、某运营商的人脸认证防伪),平台迭代出 「风险分层 - 证据链固化 - 响应策略」的智能处置引擎。

产学研用的演进闭环

君同团队成员承担教育部、国家自然科学基金相关项目,在该领域发表国际顶刊顶会论文20余篇;相关发明专利10项。方案在工信部电子第五研究所等多个权威评测机构测试认证中,对AIGC伪造内容的发现多模态伪造检测准确率、伪造视频检测速率、溯源完整度(证据链覆盖率98.7%)等多个关键指标,处于领先。

前瞻性的合规生态布局

首倡「生成式 AI 治理体系」,创新性推出「合规验证」功能,支持企业在模型训练阶段即嵌入可解释性检测模块。某客户场景的实测数据显示,该功能使模型合规成本降低 97%。同时符合欧盟AI Act对高风险AI系统的合规要求,确保模型在法规框架内安全、可控地运行。

全链路治理方案验证

为政府、执法机构、金融监管部门等提供技术支持,帮助识别虚假证件、伪造交易记录、合成音视频等欺诈手段,提升监管效率。平台针对互联网传播信息的检测,构建了覆盖内容源头、传播途径以及最终消费者的全链路治理方案。

七、交付形态多样、部署灵活

「AIGC检测标识溯源平台」根据用户需求提供多样产品形态和灵活部署方案:

在算法复杂度日新月异的技术浪潮中,君同平台方案的每一次迭代,不仅是技术参数的突破,更是对「AI 可信边界」的哲学探索 —— 当行业还在追逐单点检测精度时,我们已构建了覆盖「生成 - 传播 - 治理」全链路“可信、可靠、可控、可用”的基础设施,守护数字文明时代的内容真实性,促进AIGC产业健康发展。

上一篇
上一篇
返回
返回
下一篇
下一篇
最新动态
一站式Get!Agent应用风险治理指南
Agent应用风险治理

场景化治理

2025.03.30
一站式Get!Agent应用风险治理指南
一站式Get!RAG 应用风险治理指南
RAG 应用风险治理

场景化治理

2025.03.30
一站式Get!RAG 应用风险治理指南
君同Chat基底模型治理方案 让智能交互可信、可靠、可控、可用
Chat基底模型治理

智能交互可信

2025.03.30
君同Chat基底模型治理方案 让智能交互可信、可靠、可控、可用
一站式Get!Agent应用风险治理指南
Agent应用风险治理

场景化治理

2025.03.30
一站式Get!Agent应用风险治理指南
一站式Get!RAG 应用风险治理指南
RAG 应用风险治理

场景化治理

2025.03.30
一站式Get!RAG 应用风险治理指南