ChatGPT给银行反诈带来的挑战与机遇

AI与银行

近期,由 OpenAI 开发的生成式大语言模型ChatGPT 一经推出便受到了广泛关注。相比于传统的对话模型,ChatGPT 采用了海量的数据对模型进行训练,训练完成之后的模型可以根据上下文内容生成更加流畅的对话内容,对自然语言具有更强的理解能力。金融与科技融合是科技推动下社会分工深化的必然趋势,ChatGPT无疑将拓宽金融领域AI应用的边界,极大推动金融行业变革,协助推动金融机构更好地服务实体经济。银行业应充分利用ChatGPT带来的发展机遇,加速各种应用场景落地,例如个性化客服、多种语言翻译、智能财务管家、情感分析与客户体验提升以及自动风险评估和欺诈检测等。与此同时,银行业也需要注意并防范人工智能技术可能带来的风险。

新的挑战

近些年来,银行业面临着越来越多的挑战,其中最大的之一就是保护客户免受欺诈。根据香港警务处资料显示,香港诈骗案件的数目近年来大幅上升,2022年诈骗案件的數字较2021年上升45.1%,其中投资骗案和电话骗案涉及的金额十分庞大,分别为 18亿元和 10亿元 [1]。因此,如何提前检测并及时阻止可能存在的欺诈行为,成为目前银行所面临的巨大挑战之一。此外,以ChatGPT 为代表的人工智能技术也给银行反诈工作带来更大的挑战。在过去,银行的反欺诈工作主要是针对一些常见的欺诈手段和模式进行预防和打击,如钓鱼邮件、假冒网站、虚假交易等。但是,随着人工智能技术的发展,骗徒开始利用这些技术开展欺诈活动,使得银行在反欺诈活动中面临更加严峻的挑战。

  • 人工智能技术使得骗徒的诈骗效率大大提高。以往的诈骗活动中,骗徒多为手动拨打受害人的电话以实施诈骗活动。由于人手的限制,骗徒每天能进行的诈骗活动次数有限。例如,假如一个骗徒一分钟拨打一通诈骗电话,每天10小时不间断地拨打,每天能拨打的诈骗电话数为600通。然而,人工智能技术的引入却能使得骗徒的诈骗效率大大提升。例如,目前市场上人工智能电话拨打设备一天可以拨打超过3,000通电话,且无需人工干预。如果一个骗徒可以同时管理10个这样的设备,其每天能拨打的诈骗电话数为30,000通,效率提升为原来的50倍。
  • 人工智能技术使得骗徒的诈骗成功率大大提升。以往骗徒多冒充公安局、检察院、法院或者政府人员,利用受害人的恐慌心理对其进行诈骗。现在,骗徒可以利用人工智能模型生成虚假的语言和视频信息,模拟真实的人物进行诈骗。在当今网络发达的社会,这种几乎以假乱真的语言和视频会使得客户难以辨别,从而使得欺诈活动更加难以防范。例如,包头市警方在“平安包头”公众号发布了一个AI被用于诈骗的典型案例,骗徒首先盗用了受害人好友的微信账号,然后通过生成式AI技术模仿其视频和语音,对受害人进行诈骗,结果导致10分钟内受害人即被骗430万元 [2]
  • 在使用ChatGPT等人工智能工具的时候,数据和隐私容易泄露。由于部分使用者金融信息安全意识淡薄,且银行业务具体场景中缺乏大语言模型使用规则,骗子可能利用其中泄露的数据实施精准诈骗。

新的机遇

以ChatGPT为代表的人工智能技术在给银行反诈骗活动带来巨大挑战的同时,也给其带来了新的机遇。ChatGPT可以在以下方面帮助银行开展反诈骗活动:

  • ChatGPT 可以帮助银行进行异常检测。通过分析大量客户的历史交易和行为数据,可以有效地识别出每个客户的异常交易行为,从而有效捕捉潜在的欺诈风险。例如,如果一个客户突然将稳定地存在银行账户中的大量现金转走给一个陌生账户,此时银行就可以发出提醒和警告,与客户确认前先冻结转赈,以降低客户被诈骗的可能性。
  • ChatGPT可以帮助银行进行行为分析。通过大量客户的历史行为和对话数据,ChatGPT可以深层次了解用户的背景和需求,从而更好地评估客户交易的风险。
  • ChatGPT可以用于自动化处理客户的投诉和举报,提高银行反欺诈的效率。
  • ChatGPT 可以帮助银行突破时间和空间限制,为客户提供24小时全天候服务。例如,中国农业银行苏州分行基于人工智能技术打造的自动值守系统,突破了传统人工值守的限制,可以提供实时提醒和实时监控等功能,从而实现了全天候的客户服务 [3]
  • ChatGPT可以进行信息的真伪辨别。通过分析语言和视频的真假,ChatGPT可以判断出是否存在欺诈行为,从而防止客户蒙受损失。

事实上,人工智能技术在近些年来确实越来越多地被应用于反诈骗技术。例如,浙江省余杭区中泰街道部署的 「AI警官」采用智能语音、语义识别、自动化流程处理和大数据分析等技术,精准地开展反诈活动。「AI警官」的推出使得该地区的诈骗案件减少了 71.4%,个案损失金额下降了 95.1%,效果十分显著 [4]

未来展望

总而言之,以ChatGPT为代表的人工智能技术给银行在反诈骗活动上带来了挑战与机遇。银行需要善用新兴的人工智能技术,提高协助客户反诈骗的能力,从而更好地服务于客户。

参考文献:

[1] 2022 香港整体治安情况,香港警务处, https://www.police.gov.hk/ppp_tc/01_about_us/cp_ye.html

[2] Yang, Z. (May 22, 2023). Police warn of AI fraud after man duped by ‘friend’. https://www.chinadaily.com.cn/a/202305/22/WS646b4fd3a310b6054fad4731.html

[3] 刘志华. (2023). ChatGPT在商业银行的应用. 中国金融, 61-61.

[4] 24小时不打烊 精通反诈的 “AI警官” 正式上线, 余杭晨报,  https://www.yuhang.gov.cn/art/2022/7/12/art_1532133_59019074.html

在此感谢 InnoHK、香港特别行政区政府及人工智能金融科技实验室对本文的支持。
(AIFT 竭力但不能保证内容之准确和可靠,亦不会承担因任何不准确或遗漏而引起的任何损失或损害。)

分享此內容

宋林琦教授于日内瓦国际发明展获得2项银奖

地址

香港沙田香港科学园科技大道西 19号
11楼 1101-1102 及 1121-1123 室

产品及解决方案

人才

工作机会

关于我们

地址

版权所有 © 2024 人工智能金融科技实验室有限公司