共话AI反诈的“矛”与“盾”，这场沙龙解码技术攻防与生态共建新范式

转自：新华财经

新华财经北京6月20日电6月18日，《中国金融行业AI欺诈与技术对抗研究报告》发布暨圆桌论坛活动在清华大学经济管理学院成功举行。本次活动由清华大学经济管理学院中国金融研究中心、四川省反诈中心、新网银行、新华财经联合主办，主题为“AI反诈：从博弈到共治”。

此次报告发布恰逢中央宣传部、公安部于6月16日联合启动“全民反诈在行动”集中宣传月。根据活动安排，各地各部门在全国范围内组织开展防范电信网络诈骗犯罪“进社区、进农村、进家庭、进学校、进企业”的“五进”活动。此次在清华大学举办的“进学校”活动进一步加大反诈宣传力度，提升群众防骗意识，助力营造全社会反诈浓厚氛围。

活动聚焦AI技术在金融欺诈领域带来的深刻变革与严峻挑战，交流前沿技术与实践经验，旨在推动金融行业共同构建抵御AI欺诈的坚固防线，促进技术共治格局的形成。现场邀请金融领域专家、学术研究者及反诈一线警务工作者齐聚一堂，共同探讨应对之策。

AI欺诈新图景：技术“双刃剑”凸显风险升级

随着人工智能技术的爆发式发展，金融行业正经历数字化转型浪潮。AI技术赋能了智能风控、精准营销、自动化服务等创新场景，但同时也存在一些黑灰产组织利用AI技术，催生出深度伪造、智能钓鱼、自动化欺诈等新型犯罪手段，技术博弈与对抗的复杂性仍在升级。

为此，清华大学经济管理学院中国金融研究中心、新网银行、新华财经组建课题组，共同编制《中国金融行业AI欺诈与技术对抗研究报告》。清华大学经济管理学院教授、清华经管中国金融研究中心主任、国家级高层次人才计划入选者陆瑶进行了报告核心解读。她指出，在AI技术正被犯罪分子利用，催生出前所未有的金融欺诈新形态的背景下，深入研究金融行业的AI欺诈与技术对抗，具有重要的现实意义与理论价值。

基于当前行业实践中所应对挑战的策略和建议，课题组围绕“监管引领、机构主责、社会协同”的立体防御框架展开，深入探讨了建立AI威胁情报共享机制、储备算力资源、构建认知对抗体系、培养复合型安全人才、提升全民数字素养、常态化攻防演练以及建设开源情报社区等具体路径。研究报告为构建安全、可信、稳定的金融数字生态贡献智慧与力量，使AI技术更好地服务于经济社会发展和人民群众的美好生活需求。

在圆桌沙龙环节，清华大学经济管理学院中国金融研究中心副主任黄张凯、清华大学经济管理学院中国金融研究中心副主任庞家任、四川省反诈中心综合防范支队支队长罗彦加、新华财经副总编辑陈冉围绕着AI欺诈手段、AI技术攻防、典型AI诈骗案例等话题深入探讨。

黄张凯指出，AI技术使得传统冒充身份诈骗的欺骗性发生质变。犯罪分子利用AI可以生成动态逼真、声音一致、逻辑流畅的“虚拟人”分身，冒充亲友或领导进行诈骗，其逼真程度已达到肉眼难辨的地步，且技术门槛的降低使其具备大规模、精准化的攻击能力，犯罪成本骤降而危害范围剧增。

罗彦加的回答印证了这一趋势，他表示虽然目前涉及AI的新型诈骗案件数量尚不及刷单、冒充公检法、征信诈骗等传统形式，但上升苗头已十分明显，需要引起警惕。他特别揭示了一个现象：根据统计数据，20-50岁的中青年人群成为了AI诈骗最主要的受害者群体，占比高达九成以上，原因在于他们是“高触网人群”，日常大量线上活动增加了个人信息暴露和接触诈骗信息的机会。因此，这类人群更需提高警惕防范这类新兴的AI诈骗手段。

AI欺诈的技术攻防战：从反制破解困境到各界加固屏障

面对技术驱动的欺诈升级，如何在技术上有效应对成为核心议题。庞家任分享了高校在AI反诈基础研究上的代表性进展。他介绍，在深度伪造检测领域，研究正从早期识别生成模型的特定瑕疵转向探索基于物理规律的更普适识别方法；针对大语言模型生成的诈骗文本，研究则通过分析文本的流畅度、词汇分布和逻辑连贯性等特征进行检测和溯源；同时，对抗性攻防研究通过主动模拟攻击来暴露技术漏洞，从而逆向提升反诈模型的鲁棒性，为实战提供重要支撑。

对于普通民众的防范，罗彦加给出了切实可行的建议。尽管技术发展迅速，当前AI换脸视频通话仍常暴露一些破绽，如通话时长极短、人物眼神空洞或身体与背景衔接不自然。要求对方配合做表情等动作进行动态验证，是突破当前AI换脸局限的有效方法，往往能迫使伪造图像现出原形。此外，与亲友事先设定专属的转账“暗语”也是可靠的核对手段。

AI欺诈已成为严峻挑战，需社会各界协同作战。庞家任表示，企业公司作为第一道防线，能凭借先进技术、海量数据和丰富应用场景，开发出精准欺诈识别算法识别虚假内容。非营利组织等社会机构则需侧重公众教育，如针对老年人、青少年等重点人群开展反诈宣传以提升全民意识，并为受害者提供法律维权支持，合力降低风险并提升反诈效果。

AI反诈深水区攻坚：攻立法难题、聚多元合力

在打击AI欺诈的实际工作中，罗彦加警官坦诚当前面临多重困境。他指出，跨境执法难度大，主要嫌疑人和“金主”往往藏匿境外；现有法律对使用开源技术、涉诈软件作者责任界定、技术提供者与使用者责任边界等存在模糊地带，面临法律滞后与真空问题；加之利用虚拟货币等加密手段转移资金和数据层层覆盖的去中心化特点，导致取证链条复杂冗长，证据难以达到严格的司法要求，案件常因此受阻。他透露，针对这些挑战，公安部已联合相关机构积极推动专项立法工作，旨在制定更专业、更具指导性和规范性的法规以填补法律空白。

AI立法本身就是一个高度复杂的跨专业系统工程，绝非单纯的法律延伸，而是需要法律、技术、伦理、经济学和社会学的深度交叉融合。庞家任深刻指出，制定有效的法律规范不仅要求立法者对AI技术有深度理解，还需精准考量隐私保护与社会安全的平衡、算法歧视风险等伦理悖论，并预判法规对产业发展的影响，对复合型立法人才提出了极高要求。“欧盟在AI监管方面较为领先，推出了人工智能管理办法框架，但在创新保护与风险控制之间的平衡引发争议，技术本身的快速迭代使立法实际落地困难重重，凸显了法律适配技术发展的普遍挑战”。黄张凯分析相关国际经验。

庞家任为构建全社会协同的反诈生态体系呼吁道，政府应加速AI相关立法进程，明确责任边界、制定数据安全与算法透明度标准，并组建专业化执法队伍。高校与科研机构需要持续攻坚核心反诈技术，重点培养横跨技术、法律、伦理的复合型人才。企业作为主力军，要加大投入部署先进反诈模型进行实时风险监控，并在产品中设计嵌入预警和拦截功能。社会组织应聚焦于公众教育、推动行业自律。公众则需要持续学习提升自身防范意识，形成风险识别闭环。

圆桌论坛的最后，黄张凯在展望金融机构应对时强调，AI对金融行业的冲击可能才刚刚开始，其深度与广度或将超越移动互联网时代。金融机构需认清挑战的严峻性，即使面临人才与资源的限制，也应未雨绸缪，加强AI反诈能力建设，保持业务模式的灵活性与韧性。