数字中国2024丨AI产业与数据要素“翩然共舞”，网络安全隐忧仍待解决

（原标题：数字中国2024丨AI产业与数据要素“翩然共舞”，网络安全隐忧仍待解决）

21世纪经济报道记者张梓桐 福州报道

5月25日，第七届数字中国建设峰会在福州闭幕，21世纪经济报道记者在现场获悉，2023年我国数字经济保持稳健增长，数字经济核心产业增加值占GDP比重达到10%。

与此同时，数据要素市场日趋活跃，2023年数据生产总量达32.85ZB（1个ZB等于十万亿亿字节），同比增长22.44%。数字基础设施不断扩容提速，算力总规模达到230EFLOPS（EFLOPS是指每秒百亿亿次浮点运算次数），居全球第二位。

但与此同时，在业内人士看来，一方面，“数据要素”碰上“人工智能+”，数据的流通速度更快、规模更大、通过的节点更多、价值也更高；另一方面，一些新的安全挑战也悄然浮现。

“人工智能打破了攻防平衡，数据要素既是目标也可能成为毒药；其次，人工智能加大了数据非法获取、数据泄露以及恶意滥用等安全问题；最后，人工智能扩大了攻击暴露面，数据要素流通风险激增。”奇安信董事长齐向东在接受21世纪经济报道记者采访时表示，在这一背景下，行业要探索用人工智能驱动安全，为数字政府打造高效、智能的安全防护能力，把传统的深度学习、机器学习等AI技术以及大模型技术，赋能到安全场景和安全设备中，来更高效地分析和检测安全威胁。

数据要素与AI产业化

作为AI产业化最重要的底层资源，数据要素的重要性在近年来快速提升。

“AI 2.0时代，垂直领域的数据会成为重要的生产资料，并带来新的生产力突破。” 商汤科技董事长兼CEO徐立在“人工智能与数据要素产业生态大会”上说。

徐立表示，Scaling Law（尺度定律）被认为是大模型时代的“牛顿定律”，也是指导人工智能发展的基本法则，即随着模型参数量、数据量、算力的增加，模型的性能也会勇往直前不断提升。之所以称之为“尺度定律”而非“规模定律”，因为它是一个资源调配的“指示器”。

“具体而言，尺度定律具有两个特性，可预测性：可以跨越5~7个数量级尺度依然保持对性能的准确预测；保序性：可以在小尺度上验证性能优劣，并在更大尺度上依然保持。”徐立说道。

而这一定律的产业意义在于，从业者可以在有限的研发资源上，找到最优的模型架构和数据配方，让较小的模型也能具备大模型的能力。

在徐立看来，小模型在优化数据的情况下，性能上可以逼近甚至超越跨数量级的大模型。这背后，主要源于高质量的数据要素。

“人工智能正成为中国移动培育‘新质生产力’的关键驱动因，同时人工智能正在引领三大趋势。”中国移动通信集团有限公司党组成员、副总经理高同庆表示，AI首先带来了技术通用化。算法、数据、算力共同驱动人工智能跨越式提升，AI从辅助人类的“副驾驶”转变为人机深度协作的“智能体”，并将实现对人类智力的延伸甚至超越，加速迈向通用人工智能时代。

其次，伴随计算智能、感知智能、认知智能和运动智能融合突破，智能体、人形机器人等一大批AI新型应用将走深向实，人、机、物向原生一体转变，将重塑经济、社会、组织形态，重构世界经济版图。

最后，随着大模型向上突破百万亿参数边界，向下探索极小尺寸下限，激发AI服务从集中向边端流动，成为数字经济的“内驱力”，提升数实经济的深度及广度，迅速发展并成为经济增长新动能。

数字安全治理

在数据要素与AI产业化双向融合的另一面，是加速数据高效、安全治理的迫切需求。

近年来，人工智能大幅降低了网络攻击门槛，不懂代码和技术的普通人也能成为黑客，网络攻击数量大增。专业的黑客组织还能利用人工智能对攻击进行升级改造，数据既是重要攻击目标，也能被用于发动网络攻击。

“黑客可以通过数据投毒、对抗样本、模型窃取等多种方式攻击AI算法，使其产生错误判断，由于算法黑箱和算法漏洞的存在，这些攻击往往难以检测和防范。”齐向东告诉21世纪经济报道记者。

另一方面，人工智能加大了数据非法获取、数据泄露以及恶意滥用等安全问题。国外研究机构的数据显示，ChatGPT等生成式人工智能导致网络钓鱼邮件攻击增长了135%。生成式人工智能大模型在对话交互过程中还能获取用户数据或输出训练数据，带来了数据泄露及恶意滥用等安全问题。

最后，齐向东表示，人工智能扩大了攻击暴露面，数据要素流通风险激增。“当前，企业数据在终端、应用、云上、数据中心侧之间流转，链路非常复杂，提高了边界和接口的管理难度，导致访问者的身份难以辨认、行为难以管控，黑客能披着合法的外衣做坏事，很难及时捕捉安全风险，增加了数据泄露的机会和攻击面。”

在这一背景下，当前业内普遍认为，数字信任的建立过程涉及非常多方面，有安全、隐私、见证以及质量保证等部分。

ISACA中国技术委员会主席、万豪亚太区信息安全副总裁蔡俊磊在接受21世纪经济报道记者专访时指出，数字信任框架中的透明性与个人信息的披露程度高度匹配，因此在企业的披露过程中，如果能将个人信息保护方面的实践透明地向社会公众进行发布，在本质上会增强消费者对企业的信心，从数字信任角度来看也可以建立起完整的信任过程。

“现在我们看到很多信息披露是基于财务报表的内容，但如果企业后续可以将其个人信息的处理过程——比如删除数据的时候企业怎么操作，企业内部又有什么样的制度体系更好去保护消费者的个人信息等，能跟公众去做一些交代，对于企业建立整体的数字信任会非常有帮助。”蔡俊磊表示。

在具体的挑战方面，齐向东表示，数字时代网络安全行业主要面临“网络安全理念、安全投入不足、安全人员匮乏”三大挑战。

在他看来，目前，全社会对网络安全建设的理解还是停留在“有病治病”的阶段，片面认为网络安全就是简单的网络防御，对网络安全应付了事，网络安全防护手段落后。由于对网络安全防护不够重视，也就导致许多政企机构的安全投入不足。

“按照发达国家的经验，网络安全投资要占IT总投资占比的10%以上才能起到支撑数字化业务的作用，目前我国的占比还不到3%。网络安全人才匮乏。数据显示，到2027年，我国网络安全人员缺口将达327 万，而高校人才培养规模每年仅3万，人才数量严重不足。随着数字化、智能化不断加深，我国网络安全人才需求愈发旺盛，亟需培养壮大高水平、实战化的网络安全人才队伍。”齐向东说道。