阿里清华等公开多个科技伦理治理研究,被国际顶会认可

来源:蓝鲸财经 作者:蓝鲸财经 2022-11-30 15:11:27
关注证券之星官方微博:

(原标题:阿里清华等公开多个科技伦理治理研究,被国际顶会认可)

最近,#AI绘画有多离谱#的相关话题火上热搜,比如明明是欢喜的结婚照,被 AI 绘画软件加工后,新郎被“挂”在墙上,剩下新娘一人;少女和狗的合影中,作为主角的少女被AI绘画理解成了“狗”。看上去,AI绘画软件的“理解力翻车”是源于高维数据合成任务十分复杂,导致生成结果不可控,出现了各种搞笑的错误。但是,在医疗、自动驾驶等多种领域的“AI翻车”会产生严重的问题,比如误诊耽误治疗、高速行驶的自动驾驶车辆识别错误引发交通事故。

如何从底层构建更稳定的AI,避免AI大翻车?11月30日下午,7位来自阿里巴巴、清华大学、上海交大等公司和高校的90后和00后研究者将分享他们在对抗学习、贝叶斯深度学习、异常检测、鲁棒评估、噪声学习、鲁棒动态图学习、偏微分方程求解等方向上发表的研究成果,共同探讨如何打造更加安全可靠的智能技术,这些研究成果均被AI顶会NeurIPS收录。

毛潇锋是阿里巴巴人工智能治理与可持续发展研究中心(AAIG)的一名算法工程师。进入阿里以来,他最重要的工作就是研究如何通过对抗训练来增强AI的鲁棒性,这些研究能力被应用在非常接地气的直播和图片内容审核中。在实际应用中,直播摄像头的光线变化、主播对商品的快速晃动等因素都会对抗AI对违规商品的识别,如果AI识别的稳定性难以保障,漏过违规商品,最终受损的还是消费者。

《利用离散对抗训练增强视觉表征》是毛潇锋的分享议题。“如果把图片拆成一个个像素,对某个或者多个像素点进行修改,往往可能引起AI无法识别,我所做的工作就是对AI进行对抗训练,让它不纠结于少量不引起图片本质内容的像素级别的改变,AI模型依然认出这张图片表达的含义。”毛潇锋解释道:“就像我今天戴了眼镜,但这并不妨碍我还是我。”他认为,将这种能力用于平台风控后,能更好地守护消费者的安全。

董胤蓬是清华大学计算机系的一名95后博士后研究员,已发表30多篇顶级国际期刊和会议论文,主要专注于深度学习鲁棒性的研究。他本次的分享集中在3D世界的视角变化对AI视觉识别产生的影响。董胤蓬举例:“这项研究与自动驾驶场景密切相关,如果前车车辆发生车祸,自动驾驶车辆可能以非常不正常的视角拍摄了图片或视频,从而影响识别和判断,我关心的是,在3D空间里,如果拍摄视角或者其他视觉条件出现变化,AI是否能正确识别,从而避免车祸发生。”

“希望通过研究分享,让大家关注真实世界的安全性问题。我想知道,AI 用它的‘眼睛’看世界时,是否处于非常稳定和精准的状态。” 董胤蓬强调道。

00后的刘松铭是清华大学的在读本科生。在他的研究中,他试图利用物理信息机器学习方法解决结构优化等广义上的“安全”问题。

刘松铭选取了燃料电池组、飞机机翼等场景介绍:“假如我们要建模一个安全稳定可靠的电池,需要模拟电池的动态,比如它的温度或电流分布,这是一个物理问题,但我想用数学的办法探索,然后通过神经网络求解。”他希望用“AI”探索广义的科学问题,包括解决至关重要的安全问题,让AI研究者从交叉学科中找寻思路。

在这场AI安全的主题分享中,众多年轻的AI研究者将从别出心裁的角度探索如何构建更安全可靠的智能技术,而这场研究分享背后,是主办方阿里巴巴和清华大学试图探讨如何打造负责任的好科技。

今年阿里巴巴集团科技伦理治理委员会正式成立,提出“以人为本、普惠正直、安全可靠、隐私保护、可信可控、开放共治”六项伦理准则,着手风险能力建设和技术能力建设,重点关注技术的安全性、公平性、可解释、鲁棒性、可干预性。

除了涉及AI鲁棒性的研究,阿里还有关于隐私保护的研究被数据库领域三大顶级会议之一的VLDB 2023收录,文章提出了更高效的联邦梯度来提升决策树训练,在隐私保护和模型准确性之间取得了更好的平衡。

阿里巴巴集团科技伦理治理委员会执行主席、AAIG主任薛晖表示:“这些研究者的探索最后会反哺于实际应用,帮助集团和社会建设负责任的好科技。对安全可靠的重视和关注是也是企业社会责任感的重要体现。我很高兴,越来越多的年轻研究者们不断投身于此,一起促进人工智能技术的健康发展。”

图说:科技伦理治理研究分享会议程

微信
扫描二维码
关注
证券之星微信
APP下载
下载证券之星
郑重声明:以上内容与证券之星立场无关。证券之星发布此内容的目的在于传播更多信息,证券之星对其观点、判断保持中立,不保证该内容(包括但不限于文字、数据及图表)全部或者部分内容的准确性、真实性、完整性、有效性、及时性、原创性等。相关内容不对各位读者构成任何投资建议,据此操作,风险自担。股市有风险,投资需谨慎。如对该内容存在异议,或发现违法及不良信息,请发送邮件至jubao@stockstar.com,我们将安排核实处理。
网站导航 | 公司简介 | 法律声明 | 诚聘英才 | 征稿启事 | 联系我们 | 广告服务 | 举报专区
欢迎访问证券之星!请点此与我们联系 版权所有: Copyright © 1996-