2月19日,ISC.AI创新技术论坛暨ISC.AI 2024创新能力百强颁奖典礼在京圆满落幕,现场揭晓百余家数字安全及AI大模型获奖厂商。作为人工智能生态治理领域初创企业,君同未来首次参与百强评选,成为大模型安全领域仅有的4家上榜企业之一,在大模型安全领域崭露头角。

本届评选由ISC平台、大模型产业联盟、赛迪顾问、数世咨询、数说安全、安全419、安在、看雪、安全客等行业机构联合举办,被誉为数字安全行业的奥斯卡。活动聚焦安全、AI两大领域,涵盖13个创新赛道,旨在挖掘行业创新先锋力量及全产业链创新成果。本次创新产品及解决方案总数超500份参与奖项角逐。
君同未来,国内首提“人工智能生态治理”理念,建立了一套成熟的产品服务体系,本次评选提报的参选产品为【君合】生成式人工智能合规评测系统。

1、研发背景
生成式人工智能作为引领新一轮科技革命和产业变革的关键技术,不断催生新场景、新业态、新模式和新市场,同时,也暴露出各种风险和安全挑战;为了促进人工智能产业的健康、高质量发展,我国的人工智能发展政策、标准、法律法规正在加快出台和落地。为满足国家监管需求,迫切需要建立大模型评测体系。
2、产品特色
就目前看,建立大模型评测机制的门槛还较高,专业要求严格。君同未来自主研发的【君 合】生成式人工智能合规评测系统,可为生成式人工智能模型在备案前后的合规性提供专业评测服务,确保模型的各项指标和功能符合国家制定的相关标准与规定。系统构建了150+安全合规测试子项,采用包含20+自研风险生成模型,生成10000000+级风险题库,同时也支持用户上传个性化测试用例,帮助客户迅速测评模型的综合能力和安全合规能力,提升模型的安全性。

3、客户价值
【君 合】生成式人工智能评测系统,基于《生成式人工智能服务安全基本要求》,为不同客户角色提供模型备案前后的合规性评测和模型综合能力测评,确保多种场景下的模型合规安全:
场景1:完备的风险评测体系,帮助企业满足不同监管合规、标准要求
场景2:多元的能力测试选项,帮助开发团队完成自动化模型能力测试
场景3:模型安全防护,帮助企业提升模型在不同场景下的安全性
场景4:丰富的测试纬度和智能评分机制,帮助安全部门自测模型安全
场景5:全面、专业、易用的系统特性,满足监管机构测评工具的需求