AI技术的升级,为金融反黑反诈工作带来了诸多新挑战,比如AI系统能够生成更加精准的欺诈信息,又比如 “深度伪造”(Deepfake)技术的出现,大大增加了金融反黑反诈的难度。有数据显示,2023年国内黑产欺诈引发的经济损失达1149亿元,金融业务欺诈金额达75亿元,国家监管机构持续预警,金融机构声誉严重受损,金融客户合法权益不时受到侵害。
为了应对这些挑战,金融机构正不断升级反黑手段,以更加高效地打击金融黑产。
多位业内人士告诉《中国经营报》记者,金融机构正从自身以及行业合作等多个角度进行反黑反诈,比如,推出防伪大模型、星空体育下载声纹识别反欺诈方案等。与此同时,金融机构之间、金融与监管之间的沟通与资源共享也成为一大趋势,通过扩大“黑样本”,从数据层面增强整个行业的AI治理能力。
中国(上海)自贸区研究院(浦东改革与发展研究院)金融研究室主任刘斌向记者表示,AI技术的快速发展确实给金融黑产带来了新的手段。比如,深度伪造技术可以让黑产分子制作逼真的假证件、假签名,甚至假视频来进行诈骗;数据污染则可能导致金融机构的决策系统出现偏差,为黑产活动提供掩护。这些新问题给金融机构的反黑反诈工作带来了几方面的挑战:首先是识别难度增加,传统的反欺诈手段难以识别经过AI处理的伪造信息。其次,金融机构需要更高水平的AI技术来对抗黑产的AI工具。最后,现有的法律法规可能尚未完全覆盖这些新兴的技术犯罪。
马上消费人工智能研究院院长陆全向记者表示:“AI技术的快速发展,例如不久前Sora的推出,无疑是技术领域的一次重大突破,但也会降低AI伪造门槛,潜在引发深度伪造等黑色产业链滋生蔓延。聚焦到金融行业,Deepfake主要构成身份欺诈,即通过深度伪造的虚假图像和视频来冒充他人,骗过金融信贷流程中的身份核验系统,进而实施盗刷、恶意注册等。”
信也科技算法科学家吕强也告诉记者,根据身份验证提供商Sumsub最新年度报告,2022 年至 2023 年期间,全球多国与深度伪造相关的身份欺诈案件激增,例如菲律宾的诈骗企图数量同比增长4500%。大模型时代,随着技术使用门槛的降低和 AI 应用的升级,深度伪造相关的犯罪变得更为频繁。在金融科技领域,越来越多的犯罪分子通过合成语言冒用他人身份牟利,给用户和机构造成巨额损失。
为应对逐渐升级的金融黑产,金融机构也在不断加强反黑手段。记者了解到,得益于多方面的防伪技术突破,金融行业目前对深度伪造有了比较成熟的解决方案。
比如防伪大模型的推出,即利用大模型技术手段,围绕伪造、伪冒检测问题,所构建的复杂模型。区别于传统专家模型,防伪大模型参数量更大、训练数据规模更大。具体而言,陆全告诉记者,一方面,源于Chain of thought (思维链技术)。防伪大模型拥有前所未有的编码能力,通过编码进行概念延伸和推理,充分掌握图片细节所蕴含的内在信息。在关于图像输入的因果推理能力的测试中,Gemini Pro和 GPT-4 在未经过防伪专项增强时,能够对伪造人脸指出其毛发、皮肤、背景等诸多细节问题,如“福尔摩斯”一般,这代表大模型对图片理解能力的显著提升。另一方面,Scaling law (规模定律)显现。防伪大模型具有大模型的一般特点,即数据的有效增长可以促进模型能力的同步提升。随着深度伪造数据的积累和录入,防伪大模型的域外能力在显著增强,这种增强相较于传统专家模型是数以百倍的提升。
马上消费技术专家透露,马上消费已将防伪大模型引入日常风控反欺诈管理流程中,呈现迭代周期短、拦截性能强、可解释性强等特性。从数据来看,马上消费防伪大模型的迭代周期从90天缩短至1天,防伪拦截率从90.0%提升到99.9%以上。
吕强也表示,金融科技行业加码深度伪造识别技术是大模型时代的必然的趋势。深度伪造技术如果被滥用在金融犯罪上,将造成极大的风险,因此加强深伪识别技术,与深度伪造应用形成有效对抗,才能为金融用户和机构的资金安全保驾护航。
为此,在识别由AI生成的假“语音”“假脸”“假证件”上不断投入,比如,开发了金融场景下独创的声纹识别反欺诈方案。同时,吕强还告诉记者,由于金融业务环节的相似性,国内建立起来的 AI 鉴伪能力也可以迁移到国际业务中。已在海外落地假脸、假证件识别,以及声纹合成算法,并在海外品牌 App内植入 AI 反欺诈功能,利用人脸识别反欺诈、声纹识别等 AI 技术识别非法冒用者、辅助风险团队。特别地,信也科技针对东南亚市场特征开发了反欺诈防御科技,利用在视觉算法和图算法领域的积淀,精准识别和阻断恶意利用生成式 AI 进行(AI 换脸) 的金融欺诈活动星空体育下载,识别准确率高达 98%以上。
采访中,刘斌还指出,要应对金融反黑新挑战,金融机构除了需要强化技术升级,并加速人才培养之外,推动合作共享,加强与科技公司、监管机构以及其他金融机构合作,共享欺诈信息和数据,形成联防联控亦十分重要。
记者注意到,在金融业内,跨机构的同业联盟与行业标准也正在形成。对此,陆全向记者表示:“AI治理的方向一定是合作共生的。在我们看来,标准和数据一样,也是从底层对大模型风险治理的一个框架,也就是做一个结构化定义。如果说有更多的金融机构或其他机构,共同在这个标准框架下做事情,大家的合作也会有更好的一个协同和交流。”
在具体的探索上,陆全告诉记者,马上消费牵头编制的IEEE国际标准P3826《Standard for Technical Requirements for Large Language Models for Finance》(金融大语言模型技术要求标准)在近期立项。同时,马上消费发起成立了全国首个“打击金融领域黑产联盟”(即AIF),核心成员包括中信银行、中国平安、字节跳动等。马上消费发挥技术能力,通过多方隐私安全计算技术,在数据库内碰撞出黑灰产线索,通过数据层面去增强治理能力。“作为治理方或者说防守方,需要在共生方面有更大的联盟,才能与金融黑产做更好的对抗。”陆全强调。
在行业间分享数据或资源的过程中,如何保障信息安全问题?陆全表示,在这一过程中,会使用到现有的信息安全技术,比如区块链、隐私计算等。相应地,在使用过程中也是对这些技术的进一步反馈优化。过去,在互联网大数据场景下,这些技术有成本较高、速度较慢的情况产生,而在金融领域的特定场景中,虽然数据精度较高,但相应不需要特别高的实时计算能力,反而给隐私计算等技术有了更好的发挥空间。
下一步,金融反黑反诈的还有哪些深化方向?刘斌向记者表示,从行业和机构等多方面来看,机构需要持续投入资源进行技术研发,特别是、等前沿技术;行业层面,内部反黑标准的共同定制、推广典型案例,是提高行业防范水平的一大方向。此外,也需要加强对公众的金融知识教育,提高大众对金融欺诈的识别和防范能力,并推动法律法规的完善,加大对技术犯罪的打击力度,若有跨国金融犯罪的情况,亦需要加强与国际组织的合作。
记者也注意到,国家间如何进行AI共治也已经成为业内关注的重要线世界大会”上,清华大学苏世民书院院长、清华大学国际治理研究院院长薛澜就提到,人工智能的治理与发展已走到关键的“十字路口”,尤其是生成式人工智能所带来的挑战是前所未有的。AI发展带来的技术内在问题、基于技术开发带来的风险、技术应用带来的调整,包括数据安全问题、算法歧视、数据误用、滥用等,都使得人工智能监管与治理变得空前复杂,没有任何一个监管机构能够单独管理好人工智能牵涉的各个方面。为此,薛澜认为,要把发展和安全作为“一体两翼”。国际社会不仅要重视安全问题,更要关注人工智能鸿沟、数智鸿沟等。各国应通过多途径建立国际交流及防控体系;同时,希望联合国等国际组织能起到全面协调的作用。