行业
热点
栏目
产品
聚焦未来攻防较量，首届人工智能安全大赛正式启动
云栖网：为加快构建人工智能安全创新环境，日前，以“共筑AI安全 安享智能未来”为主题的2022人工智能安全大赛正式启动。作为中关村论坛国际前沿科技创新大赛的专题赛，本次大赛聚焦人工智能产业面临的安全挑战，旨在以竞赛方式破解安全难题，培育高水平的人工智能安全团队，同时强化人工智能治理体系与安全评估能力建设，助力人工智能产业高质量发展。
大赛分为报名及线上初赛（7月13日～8月31日）、初赛评审（9月1日～9月10日）、线下决赛及颁奖典礼（2022中关村论坛期间）三个阶段。从即日起，大赛面向全国高等院校、科研院所、科技企业招募参赛团队。
本届大赛由北京市科学技术委员会、中关村科技园区管理委员会，北京市经济和信息化局指导，中关村国家实验室、国家工业信息安全发展研究中心、清华大学人工智能研究院、北京瑞莱智慧科技有限公司联合主办，中国电子信息行业联合会人工智能工作委员会协办，保证大赛的权威性、学术性和专业性。
大赛汇聚业界顶级专家，中国科学院院士张钹、中国工程院院士倪光南、中国工程院院士沈昌祥、中国工程院院士于全、中国工程院院士吴建平在内的五位院士受邀担任本届大赛组委会主席，旨在打造人工智能安全领域高水平的竞技交流平台。
大赛评审委员会则由来自中国科学院、清华大学、复旦大学、浙江大学、中国科学技术大学、北京航空航天大学、西安交通大学、北京邮电大学、北京理工大学等多所国内知名高校学者组成，为保证大赛呈现高水平竞技提供有力保障。
本届大赛是国内首个以人工智能安全为主题的赛事，针对人脸识别安全、深度伪造内容治理、自动驾驶安全等领域设置赛题，将产业应用中的实际需求与最前沿的安全问题融合，将为人工智能的能力演进提供重要参考。
赛题主要包括以下几方面：
深度伪造安全竞赛：目前利用生成合成类算法伪造音频、视频等滥用现象日益加剧，通过分析伪造音视频的相似性进行溯源成为有效应对。本赛题模拟互联网上深度伪造视频传播的场景，选手通过提交针对伪造方法的溯源算法，对相同生成方法的深度伪造视频进行识别，最终根据准确率进行排名。
自动驾驶安全竞赛：自动驾驶车辆在极端场景中极易发生误判，同时面临算法安全威胁，存在被恶意攻击的可能。本赛题模拟自动驾驶场景下的对抗攻击，提供线上仿真自动驾驶环境，选手通过提交对抗补丁，对主流自动驾驶目标检测模型进行攻击测试，最终根据攻击成功率进行排名。
人脸识别安全竞赛：人脸识别系统容易受到对抗样本攻击，即通过对人脸图像做微小的改动，能够欺骗识别系统做出错误判断。本赛题模拟人脸比对场景下的对抗攻击，在模型详细信息未知的黑盒场景下，选手提交对抗补丁，对模型进行攻击测试，最终根据攻击成功率进行排名。
目前，大赛各项工作已经准备就绪，诚邀国内各高等院校、科研院所、科技企业的算法开发人员共同参与到这场关乎未来安全的攻防较量，强化对人工智能安全前沿领域的技术攻关，为人工智能产业发展保驾护航。
