大模型安全风险、防护治理与法治建设分析

一鹏 赵(上海数字安全科技有限公司，中国)

摘要

随着人工智能的发展，大模型已逐渐运用到自然语言处理、图像生成和决策支持当中。大模型虽然具有较强的生成能力以及复杂性，但是往往伴随着诸多安全风险。文章主要由数据安全、模型滥用、算法偏差、系统对抗这四个方面来分析大模型存在的潜在风险，并针对这种风险提出了数据安全防护、生成内容监测、算法偏差校正等防护治理的思路。并且由法理角度出发，就大模型安全提出了相关的立法规范和完善、监管体系协调配合以及合理追责等法治建议，以期能为构建安全、可控、合规的大模型应用环境提供制度和技术支撑。

关键词

大模型；安全风险；防护；法治建设

参考

吕延辉,张博,高彦恺.基于人工智能安全治理框架的大模型系统安全防护研究[J].中国信息安全, 2024(10):38-41.

本刊编辑部.聚焦大模型决胜数字时代[J].软件和信息服务（原：软件世界）, 2023, 000(12):2.

王笑尘,张坤,张鹏.多视角看大模型安全及实践[J].计算机研究与发展, 2024, 61(5):1104.

宋时磊,杨逸云.大语言模型的主权,安全及其治理[J].中国高校社会科学, 2023(6):109-118.

DOI: http://dx.doi.org/10.12345/bdai.v6i5.32068