人工智能安全技术及智能防御系统研究

人工智能系统被广泛地应用到关键基础设施、金融风控和医疗决策这些方面当中，由此引发的安全问题也由原来的单个模型出现的缺陷转变为系统的危险状况。目前对抗样本攻击、数据投毒、模型逆向等威胁在物理、逻辑双层同时出现，传统的防御框架已经不能适应攻击面的急剧扩大，存在着鲁棒性差、应对未知威胁慢等缺陷。本文整理出 AI 安全威胁类型，总结出智能防御关键技术，提出以边云协同、可解释决策、演化防御为特征的自主安全架构，给复杂对抗环境下的人工智能防御体系创建赋予理论参照。