双面AI：风险与可信博弈，科技如何向善？

（原标题：双面AI：风险与可信博弈，科技如何向善？）

从自动驾驶、AI医疗再到工业生产，以及我们生活的各个领域，AI正在展现巨大变革赋能的潜力。但是，随着AI应用的广度和深度不断拓展，诸如算法安全、数据歧视、数据滥用等诸多问题也显露出一些风险与隐患。从而，引发人们对人工智能信任的思考。

7月9日，在2021世界人工智能大会可信AI论坛上，《促进可信人工智能发展倡议》（以下简称“倡议”）正式发布。该倡议由可信AI论坛发起，联合发布单位包括中国信通院、中国科学院自动化研究所中英人工智能伦理与治理研究中心、京东探索研究院、蚂蚁集团等。

上述倡议旨在倡导政产学研各界加快形成国际协同治理共识，促进社会对可信AI的理解和重视，充分挖掘人工智能的产业和社会价值。上海市经济和信息化委员会主任吴金城对21世纪经济报道记者表示，发展可信AI，推动人工智能的透明可视，安全可控，多元包容已成为全球共识，也是未来人工智能健康发展的必由之路。

他认为有三种方式，一是推动加密技术，安全多方计算、联邦学习等安全技术的应用。提升AI技术安全特性和数据保护能力。二是建立测试测评体系。加快构建完善可信AI相关标准，研发创新测试测评技术。三是加快完善制度规范。在国家相关法律和上海市地方性法规框架下研究制定生物信息安全、数据安全、个人隐私等领域的法律法规，以制度保障推动可信AI发展。

从自动驾驶、AI医疗再到工业生产，以及我们生活的各个领域，AI正在展现巨大变革赋能的潜力。甘俊 制

风控不再是人与人的斗争

事实上，当我们把决策交给人工智能的时候，人工智能首先必须证明自己是值得信赖的。因此，基于此的可信任研究，就形成了全球共识。

工业和信息化部科技司高技术处处长徐鹏表示，尤其是在与人类的生产生活密切相关安全领域的风险防范和挑战，比如伦理道德、算法、个人信息的滥用和隐私的泄露以及相应保护问题，是现在大家关注热点之一。由此可见，构建人工智能基础安全保障体系，促进可信的人工智能健康发展任务非常迫切。

“未来的风控将不再是人和人的斗争，而是AI与AI的博弈。”蚂蚁集团副总裁、首席人工智能科学家漆远博士向21世纪经济报道记者透露，在支付宝上，每天上亿笔交易背后，发起攻击的早已不是散户，而是专业的黑产团伙。

为了应对复杂多变的黑产攻击，如何持续加强风控模型的抗打击能力，做到“魔高一尺，道高一丈”，成为摆在所有AI从业者面前的难题。

据了解，从2018年开始，漆远与一批AI技术骨干，在人工智能模型算法中融入经济学“博弈理论”，开发了一项业界全新的技术——“智能对抗”，即通过结合AI和博弈对抗，让机器自动且实时、动态地对自身系统进行安全性攻击，从而提升模型能力，使模型处理结果更加准确。

这一技术类似于金庸小说里的“双手互搏”。因其具有对风险知识形成感知、分析和预测的能力，未来将成为可信AI领域的核心安全技术。

在中国科学院自动化研究所中英人工智能伦理与治理研究中心主任曾毅看来，可信人工智能系统，必须有在线连续学习和随时纠正能力。“从技术的角度看，最新人工智能技术进展模型现在看来都是不可信的。现在人工智能的技术，还不足够谈到真正的可信，所以，它是一个起始点。另外，可信人工智能绝对不仅仅是技术问题，还有社会的视角。如何利用技术赋能跨文化的互信，在我看来是真正实现可信人工智能不得不做的事情，甚至是最后成功的关键。”

亟须建立行业标准

作为数字经济中“抵御风险”的关键，可信AI技术目前已在蚂蚁集团包括反欺诈、反洗钱、反赌博、企业联合风控、数据隐私保护在内的多个风控场景下落地。

除金融风控场景外，可信AI技术还被广泛应用于数据隐私保护、金融科技服务等多个领域。今年6月，十三届全国人大常委会第二十九次会议表决通过包括数据安全法在内的多项法案及两项决定。数据安全法第四条提出，维护数据安全，应当坚持总体国家安全观，建立健全数据安全治理体系，提高数据安全保障能力。

这标志着，数据安全已经上升到总体国家安全观层面，与国家安全挂钩。而各界对此密切关注。

“无论是AI还是科学技术，可信的方式有很多，像稳定性、可解释性、隐私保护、公平性，我们如何把这些综合起来形成统一的共识体？”欧洲科学院外籍院士、澳大利亚科学院院士、悉尼大学教授陶大程提出了自己的问题，由于缺乏可解释性，也限制了人工智能更广泛的应用和赋能，比如说无人驾驶车在道路上出现状况了之后，该如何定责，因为无法解释，驾驶员无法在短短几秒钟之内，对道路产生判断。

一定程度上来说正是因为标准的缺失，导致人工智能的应用落地受到了限制。陶大程进一步认为，不管欧盟的GDPR也好，还是中国的隐私保护条例也好，都说明用户对数据使用要更谨慎，说明了用户对个人信息的保护，是有相当的权利的。只有将上述四个能力综合后，做到明确的责任，才能找到合适的方式度量可信人工智能。

毫无疑问，人工智能在更多领域起到的作用举足轻重，例如医疗诊断、无人驾驶等场景下，很可能一个微小算法错误，都可能导致致命灾难。因此，制定一定的量化指标和行业标准，在产品研发、评测的过程中，才能更加严格评估和遵循规则。

智能时代已加速到来，科技向善是科学技术发展最根本的要义。“向善主要是指两个方面，一是指你的意图好还是坏？另外一个方面是，你做这一个事情的后果是什么。技术的发展也带来了公平的问题，真正的科技向善，应该是赋予每个人更多发展的权利，每个人跟得上这个时代，享受这个红利和普惠性。”

在他看来，无论一家企业还是一个行业，提到信任，就要从责任入手。只有好的意图，才能达成好的后果。从而建立相互影响、相互支持、相互依赖的健康有序发展生态。