蚂蚁集团可信 AI 重要进展：用 “博弈论” 对抗黑产 在金融风控场景获实践验证

“2021 世界人工智能大会-可信 AI 论坛” 今日在上海召开，来自美、英、澳等多国院士、学者，共同探讨可信 AI 从认知演进，到理论研究，再到产业探索等多个的议题。蚂蚁集团副总裁、首席 AI 科学家漆远教授在会上透露，继 “隐私计算” 和 “图学习” 技术取得实践成果后，蚂蚁集团在可信 AI 技术体系中的又一项重要技术——“智能对抗” 技术现已正式上线部署，支持反欺诈等多个风控场景。

漆远在会上分享了蚂蚁集团在可信 AI 技术领域的多项技术和应用成果。他表示，融入经济学 “博弈理论” 的 “智能对抗” 技术，能够借助 “双手互博” 的演习机制，让 AI 模拟黑产发起对自身的攻击演练，从而帮助 AI 在风险识别能力、抗打击能力上持续、自动进化升级。据悉，该技术应用于金融风控领域，在业内尚属首次。

做好未来 5 年的技术储备 “智能对抗” 技术已上线

“未来的风控将不再是人和人的斗争，而是 AI 与 AI 的博弈，” 漆远在演讲中表示，“在支付宝上，每天上亿笔交易背后，发起攻击的早已不是散户，而是专业的黑产团伙。”

为了应对复杂多变的黑产攻击，如何持续加强风控模型的抗打击能力，做到 “魔高一尺，道高一丈” 成为摆在蚂蚁集团技术团队面前的难题。

2018 年，漆远带领着蚂蚁集团 AI 技术骨干，在人工智能模型算法中融入经济学 “博弈理论”，开发了一项业界全新的技术——“智能对抗”，即通过结合 AI 和博弈对抗，让机器自动且实时、动态地对自身系统进行安全性攻击，从而提升模型能力，使模型更加鲁棒（robust），处理结果更加准确。

就像金庸小说里的 “双手互博”，借助 “智能对抗” 技术，用更智能的 “攻”，实现更安全的 “防”。 “智能对抗” 技术在权威机构 Gartner 发表的白皮书中被列为 2021 年十大金融科技趋势之一。因该技术具有对风险知识形成感知、分析和预测的能力，未来将成为可信 AI 领域的核心安全技术。

记者了解到，自 2018 年起，蚂蚁集团 “智能对抗” 技术的相关研究成果已陆续在包括 ICML、ICLR 在内的全球技术顶会上发表，拥有全球专利 8 项。2020 年，“智能对抗” 技术正式应用于支付宝反欺诈，目前已覆盖支付宝风控的账户、欺诈、交易安全等多个场景，对 AI 模型的鲁棒性（robustness）有明显提升。

可信 AI 是数字时代 “抵御风险” 的关键能力

随着数字化进程的不断加速，AI 在推进传统产业数字化升级的过程中作用显著。在借助 AI 防御数字经济风险的同时，如何确保 AI 的安全、可信和公平成为全行业关注的重要课题。

今年 6 月，蚂蚁集团首次向外界发布了蚂蚁可信 AI 技术架构体系，具体来看：拓展数据价值的隐私计算技术，实现「数据不动价值动」的重要命题；“博弈与鲁棒性” 是保障 AI 可信及稳定运营的关键，“可解释性与因果分析” 和 “公平性” 的研究能够帮助人类更好地信任及依赖 AI 做出正确决策。

全球专利权威机构 IPR Daily 在 6 月发布报告显示，蚂蚁集团目前拥有全球范围内数量最多的 “AI 安全可信关键技术” 专利。

可信 AI 不再是理论和畅想，已全面应用实践

作为数字经济中 “抵御风险” 的关键，可信 AI 技术目前已在蚂蚁集团包括反欺诈、反洗钱、反赌博、企业联合风控、数据隐私保护在内的多个风控场景下落地，支撑着支付宝全风险域的防御需求，也是 “蚂蚁反欺诈智能风险感知与响应系统” 的核心技术。

除金融风控场景外，可信 AI 技术还被广泛应用于数据隐私保护、金融科技服务等多个领域。前不久，采用可信 AI 技术的网商银行 “大山雀” 卫星遥感风控系统项目获评农业部农村部农村金融十佳创新实践。

同时，围绕 AI 公平性的建设和发展，蚂蚁先后启动了针对不发达地区的 “AI 豆计划”、针对视障碍人群的 “空中手势” 验证码方案等项目。通过可信 AI 技术的研究和投入，促进相对落后地区的经济发展，帮扶弱势群体，弥合数字鸿沟。