清华大学联合阿里安全和RealAI发布基于深度学习模型的对抗攻防基准平台,用户提交模型可获安全性得分

清华大学联合阿里安全和瑞莱智慧 RealAI发布业内首个基于深度学习模型的对抗攻防基准平台(Adversarial Robustness Benchmark)。据介绍,此基准可以更加公平、全面地衡量不同算法的效果,提供方便使用的鲁棒性测试工具,全面衡量AI模型的安全性,用户通过提交模型的方式可以获取安全性的得分。

蓝鲸TMT频道6月3日讯,清华大学联合阿里安全和瑞莱智慧 RealAI发布业内首个基于深度学习模型的对抗攻防基准平台(Adversarial Robustness Benchmark)。

据介绍,此基准可以更加公平、全面地衡量不同算法的效果,提供方便使用的鲁棒性测试工具,全面衡量AI模型的安全性,用户通过提交模型的方式可以获取安全性的得分。

不同于之前只包含零散攻防模型的对抗攻防基准,此次推出AI对抗安全基准基本上包括了目前主流的人工智能对抗攻防模型,涵盖了数十种典型的攻防算法。不同算法比测的过程中尽量采用了相同的实验设定和一致的度量标准,从而在最大限度上保证了比较的公平性。除此之外,本次发布的AI安全排行榜也包括了刚刚结束的CVPR2021人工智能攻防竞赛中诞生的排名前5代表队的攻击算法。

瑞莱智慧CEO田天表示,现阶段人工智能产业正经历从高速增长向高质量发展的转变,产业期待的提升让金融、医疗等更复杂的高价值场景的应用需求不断增加,安全性的重视程度也不断提升,但由于传统技术范式存在天然的算法漏洞和缺陷,难以支撑人工智能的长久高质量发展,为此田天提出,需加快发展第三代人工智能,发展“安全、可控”核心能力。

田天表示,RealAI基于多方安全计算、联邦学习、人工智能安全攻防等技术打造了一套结合“数据保障、算法检测、应用管控”的可信人脸完整解决方案,在保障人脸隐私安全、数据泄漏溯源、算法安全评估、信息合规等做前提下,推动人脸识别在关键的社会公共服务场景下的深度应用。

此外,作为第三代人工智能领域的践行者,RealAI推出了一系列更加安全可控的人工智能基础设施,基于安全多方计算、联邦学习、匿踪查询等技术打造的数据安全共享基础设施RealSecure,用于解决数据隐私难题;针对AI系统推出的防火墙与杀毒软件平台RealSafe,能够为人脸识别、目标检测、图像分类等应用提供有效的安全检测与防御加固服务。田天表示,这一系列基础设施将打开AI能力的全新维度,为人工智能产业治理工作提供有效工具支撑。