资讯中心

蚂蚁集团首席AI科学家漆远:智能对抗技术已在支付宝落地

来源:TechWeb
2021/7/9 14:59:03
25599
导读:智能对抗,即通过结合AI和博弈对抗,让机器自动且实时、动态地对自身系统进行安全性攻击,从而提升模型能力,使模型更加鲁棒,处理结果更加准确。
  7月9日消息,在2021世界人工智能大会-可信AI论坛上,蚂蚁集团副总裁、首席AI科学家漆远教授在会上透露,继“隐私计算”和“图学习”技术取得实践成果后,蚂蚁集团在可信AI技术体系中的又一项重要技术—“智能对抗”技术现已正式上线部署,支持反欺诈等多个风控场景。
 
  他表示,融入经济学“博弈理论”的“智能对抗”技术,能够借助“双手互博”的演习机制,让AI模拟黑产发起对自身的攻击演练,从而帮助AI在风险识别能力、抗打击能力上持续、自动进化升级。据悉,该技术应用于金融风控领域,在业内尚属首次。
 
  漆远在演讲中表示,“未来的风控将不再是人和人的斗争,而是AI与AI的博弈。在支付宝上,每天上亿笔交易背后,发起攻击的早已不是散户,而是专业的黑产团伙。”
 
  据介绍,2018年,漆远带领着蚂蚁集团AI技术骨干,在人工智能模型算法中融入经济学“博弈理论”,开发了一项业界全新的技术——“智能对抗”,即通过结合AI和博弈对抗,让机器自动且实时、动态地对自身系统进行安全性攻击,从而提升模型能力,使模型更加鲁棒(robust),处理结果更加准确。
 
  自2018年起,蚂蚁集团“智能对抗”技术的相关研究成果已陆续在包括ICML、ICLR在内的全球技术顶会上发表,拥有全球专利8项。2020年,“智能对抗”技术正式应用于支付宝反欺诈,目前已覆盖支付宝风控的账户、欺诈、交易安全等多个场景,对AI模型的鲁棒性(robustness)有明显提升。
 
  (原标题:蚂蚁集团首席AI科学家漆远:智能对抗技术已在支付宝落地)

热门评论

上一篇:吴云坤: 保护数据和应用安全是保障智能系统的关键

下一篇:2021世界人工智能大会,大咖言论一起看!

相关新闻

<