数字时代如何应对网络安全新挑战？

2023年国家网络安全宣传周上海地区主论坛昨天在上海国家会展中心举行。论坛以“数字时代如何应对网络安全新挑战”为主题，邀请多位来自高校、研究机构、行业一线的专家学者参与主题分享和圆桌会议，共同探讨数字时代的网络安全和数据安全话题。

中国工程院院士、复旦大学金融科技研究院院长柴洪峰院士在视频寄语中对金融大模型监管提出建议。柴洪峰认为，需要对大模型训练过程中的数据安全等级作严格界定，监管机构也应加强对金融大模型的审查和风险评估，对关键人物和系统应建立审查和测试的机制，确保其性能和安全性。

此外，为了确保大模型在金融领域的应用符合法规与道德要求，柴洪峰认为需要通过政产学研合作，制定相关政策和指南。他强调，对于金融大模型的部署与使用都需要协同共治，提升透明度，保证数据质量和可解释性的机制，帮助用户与监管机构理解模型的决策依据，确保不带有偏见或歧视性。

中国信息通信研究院华东分院院长廖运发同样对AIGC大模型可能带来的安全风险表达担忧。“算法设计、算法黑箱、应用安全包括外部攻击、深度伪造等等，都是AIGC大模型面临的安全挑战。”廖运发认为构建一个AIGC大模型的数字安全空间，对于AIGC大模型发展是至关重要的。他建议加快人工智能技术研发，特别是可信人工智能的逻辑可控，同时加快标准的研究制定，推动底线政策监管，统筹发展与安全。

上海观安信息技术股份有限公司联合创始人胡绍勇认为，数据安全建设首先要明确安全责任体系，包括管理体系、制度体系、流程体系，数据持有者应有相对应的数据安全责任。同时，要做好数据分级分类，梳理好敏感数据的家底，制定好相应的流程和规范，哪些级别的数据有哪些基础安全要素和安全基线。“最重要的是数据存储和数据访问，比如在数据存储里面普遍看到的超期超限的，就需要及时治理，包括过期数据如何进行销毁，如何保障合法的人员合法使用数据，同时做到可用不可见。”

公安部第三研究所网络安全法律研究中心主任、研究员黄道丽认为，当前网络安全面临的最大挑战是怎么把制度能力转化为实际的治理能力。“法律最大的特点是稳定性，网络安全风险和网络安全形势却是不断变化的，甚至有时候它的风险会突破，比如AIGC、人工智能的风险是否会突破传统认识的数据安全与个人信息保护。”黄道丽认为网络安全规则的细化需要产业界、运营者、数据处理者以及社会第三方共同地推进。尤其是当前网络安全执法的力度和覆盖面较为有限，如何提高执法能力，加强执法队伍建设等对数字时代的网络安全是极大的挑战。

上海市信息安全测评认证中心创新研究院副院长徐御指出，网络安全已从以系统与网络为核心，转变为以数据为核心。中国数据安全制度供给正在逐步加大，上海也推动了很多试点，以数据安全为中心去构建整个城市的数据安全体系，但数据安全的供给侧仍需升级，推出数据一键加密、数据脱敏等高效的产品，满足对于数据泄露、数据篡改等方面的需求，这样网络安全产业发展会更加快速。

上海交通大学人工智能研究院院长宋海涛认为，随着人工智能技术的发展，未来AI的智算资源很有可能会像电网一样，“算力入户”“算力入校”。面对这样的发展，现在的网络安全涵盖面会更大。“人工智能和AIGC的产生，加速了人们对于信息的有效压缩能力和表达能力，大量的信息内容通过网络生成，这是网络安全面临的新的技术挑战。”宋海涛建议不仅要以科技自强来保护人民群众的生命财产安全，还要加强网络安全伦理和治理体系的研究和建设。

本报记者 潘高峰