大模型安全

1.AIcert人工智能安全评测平台

AIcert是具备系统化、通用化、自动化安全评测能力的人工智能安全评测平台。覆盖数据、算法、模型、框架和系统等多个关键层面,实现数据质量评估、算法安全验证、模型安全评测、框架安全度量、系统安全检测在内的五大核心层面功能,可全面评估AI系统安全状况。突破安全漏洞因果可解释分析、高效通用性评测基准等理论与技术瓶颈,为评测结果和加固策略提供可验证、可视化的支撑,具备多维度可量化的评测因果分析能力。整合多模态输入、多模型架构、多元任务场景的一体化评测框架,实现AI系统数据收集、模型训练、测试与防御以及落地部署各阶段高效率、自动化安全评测。

应用场景:

AIcert平台可应用于智轨交通、智慧医疗、智能安防、智能养老等人工智能场景,显著提升传统AI系统的威胁监测、预警和响应能力。目前已在淘宝网、杭州城市大脑、湖南四方天箭、山东计算中心(国家超级计算济南中心)和中车株洲所等8个企业中成功部署示范性应用,服务于千万级用户数据,取得了广泛的学术和产业界认可。


2.DFscan深度伪造视频检测平台

DFscan从促进生成式人工智能的合法化应用和健康化发展出发,专注于图像/视频深度伪造内容的风险管控,注重自我迭代与最新深度伪造技术研究,在数据算法积累、算法评估、核心检测能力与多功能服务方面具备显著优势。平台可应用于AI电诈视频甄别、人脸识别系统防护、重点人物伪造视频监管、媒体内容合规性检测等场景。同时,检测平台支持伪造区域定位、伪造特征可视化和伪造方法溯源等细粒度检测功能,并能够生成多维可视化的检测报告。

应用场景:

平台目前在国内外顶级会议和期刊上发表了40+篇论文,获第三届中国人工智能大赛音视频合成挑战赛A级(一等奖)证书。同时,平台与国家部门、互联网头部企业开展广泛合作,包括北京网安总队、嘉善公安、腾讯QQ等。


3.AI智能扫描器

AI智能扫描器,通过深度学习和机器学习算法,主动探测系统漏洞,精准识别Web漏洞、配置缺陷、数据库漏洞及弱口令等安全风险。智能分析扫描结果,生成可视化安全评估报告,并提供针对性的修复建议,帮助用户全面提升系统安全防护能力。