基于Unit 42的观察，从2022年11月至2023年4月初，ChatGPT相关域名注册量每月暴涨910%。期间，团队从DNS安全日志中发现相关抢注域名的盗用增长高达17,818%。Palo Alto Networks（派拓网络）的高级URL过滤系统每天监测到多达118个ChatGPT相关的恶意URL。
通过研究不同案例，Unit 42发现诈骗者的行骗手段层出不穷，其目的在于引诱用户下载恶意软件和分享机密信息。在OpenAI于今年3月1日正式公布ChatGPT的API后，利用其的可疑应用也随之增加。因此，ChatGPT用户需要时刻保持警惕，避免掉入仿冒聊天机器人设下的陷阱。
Palo Alto Networks（派拓网络）的下一代防火墙和Prisma Access用户可以通过采用高级URL过滤系统、DNS安全服务和WildFire恶意软件防护引擎，抵御和ChatGPT相关的骗局威胁。这些安全服务已经涵盖了包括域名、IP、URL和hashes在内的恶意指标。
ChatGPT骗局日渐增多
随著OpenAI迅速崛起成为人工智能领域最著名的公司之一，Unit 42发现已经有攻击者将“openai”和“chatgpti”用作域名，例如，openai[.]us、openai[.]xyz和chatgpt[.]jobs。
截至今年4月初，这类域名大多没有恶意内容。但令人担忧的是，它们并非由 OpenAI或其他真实的域名管理公司控制，一旦被滥用或成为不法分子的工具，那么威胁也会随之而来。
图1展示了ChatGPT问世后相关抢注域名注册的趋势。研究期间，Unit 42注意到每天的域名注册量发生显著上涨。今年2月7日，在微软发布新版必应后不久，就有超过300个与ChatGPT相关的域名被注册。
图1 ChatGPT抢注域名注册趋势
图2的趋势类似，对ChatGPT的接受和普及导致DNS安全服务日志纪录明显增加。
图2 ChatGPT抢注域名的 DNS 流量趋势
Unit 42还通过高级URL过滤系统进行了关键词搜索。图3显示在OpenAI发布ChatGPT官方API和GPT-4的当天出现了两个明显的上升峰值。
图3 含ChatGPT关键词的恶意检测趋势
ChatGPT诈骗案例
Unit 42发现了多个仿冒OpenAI官方网站的钓鱼URL。多数情况下，诈骗者会创建虚假网站，它们看起来与ChatGPT的官方网站十分相似，来诱骗用户下载恶意软件或分享敏感信息。
图4展示了诈骗者用来发送恶意软件的常见招数。用户一旦点击“下载 Windows 版本”的弹窗，就会在无意识的情况下下载特洛伊木马软件至其设备。
图4 仿冒软件：chat-gpt-online-pc[.]com
此外，不法分子还可能利用与ChatGPT相关的“社交工程”盗窃用户身份和诈骗钱财。尽管OpenAI为用户提供了ChatGPT的免费版本，但诈骗者会将受害人引导至虚假网站，声称用户需要为这些服务付费。如图5所示，伪造的ChatGPT网站试图引诱受害人提供隐私信息，例如信用卡资料和邮箱。
图5 金融诈骗：pay[.]chatgpt-oracle[.]com
Unit 42还注意到，一些诈骗者利用OpenAI的日益普及进行加密货币诈骗。图6显示的是通过滥用 OpenAI 标志和马斯克的名字吸引受害人参加一项赠送加密货币的欺诈活动。
图6 加密货币骗局：x2chatgpt[.]org
仿冒AI聊天机器人的风险
随着ChatGPT成为今年最火爆的应用之一，市面上也出现了越来越多的仿冒AI聊天机器人应用程序。其中一些提供大型语言模型，还有的声称通过在3月1日公布的公共 API提供ChatGPT服务。然而，使用仿冒AI聊天机器人可能会带来安全风险。
在ChatGPT API发布之前，已有数个开源项目允许用户通过各种自动化工具连接到ChatGPT。由于一些国家和地区的用户无法访问ChatGPT，这些自动化工具和API创建的网站可能会吸引这些地区的大量用户，但也同时为攻击者提供了通过代理其服务谋取利益的机会。图7就是一个提供付费聊天机器人服务的中文网站。
图7 付费聊天机器人服务：chatgpt[.]appleshop[.]top
事实上，无论是否免费，仿冒聊天机器人都不可信。它们很多是基于2020年6月推出的GPT-3创建，比GPT-4和GPT-3.5更弱。
此外，使用聊天机器人还存在另一个重大风险：它们可能会收集和窃取用户提供的信息。换言之，提供任何敏感或机密资料都可能导致风险隐患。聊天机器人的回应也有可能被操纵给出错误答案或误导信息。
在图8中，抢注域名chatgptforchrome[.]com托管了ChatGPT Chrome扩展功能的介绍页面，并使用了官方OpenAI扩展功能的信息和视频。Unit 42下载了图8中的“AI ChatGPT”扩展功能，发现它在受害人的浏览器中添加了一个后台脚本，其中包含一个极具迷惑性的JavaScript。对该JavaScript的分析显示，它通过调用Facebook Graph API窃取受害人的账户信息，并可能进一步访问其社交媒体账户。其他研究人员也报告过类似涉及恶意浏览器扩展功能的活动。
图8 ChatGPT扩展功能：chatgptforchrome[.]com
结论
随着ChatGPT的使用日益广泛，它也逐渐成为网络犯罪分子的目标。数量急剧增加的ChatGPT相关新域名和网站都可能被用来行不法之事。
为了确保网络安全，ChatGPT用户需要警惕与ChatGPT有关的可疑邮件和链接，避免使用仿冒聊天机器人，应由官方OpenAI网站进入聊天室。
Palo Alto Networks（派拓网络）的下一代防火墙和Prisma Access用户可以通过采用高级URL过滤系统、DNS安全解决方案和防护引擎WildFire，远离ChatGPT相关骗局的侵害。
