网络犯罪分子已经展示了人工智能如何帮助他们仅在编程语言知识有限的情况下开发恶意软件，集思广益新的 TTP，编写用于社会工程攻击的令人信服的文本，并提高他们的运营生产力。
ChatGPT 等大型语言模型仍在广泛使用，Group-IB 分析师观察到地下论坛对 ChatGPT 越狱和专门的生成式预训练变压器 (GPT) 开发持续感兴趣，寻找绕过 ChatGPT 安全控制的方法。 Group-IB 专家还注意到，自 2023 年中期以来，为了协助网络犯罪活动，开发了四种 ChatGPT 风格的工具：WolfGPT、DarkBARD、FraudGPT 和 WormGPT，所有工具都具有不同的功能。
FraudGPT 和 WormGPT 是地下论坛和 Telegram 频道上备受讨论的工具，专为社会工程和网络钓鱼而定制。 相反，像 WolfGPT 这样专注于代码或漏洞利用的工具由于训练复杂性和可用性问题而不太受欢迎。 然而，它们的进步带来了复杂攻击的风险。
Group-IB 的《2023/2024 年高科技犯罪趋势》还根据过去的研究，强调了在暗网上出售受损的 ChatGPT 凭证的情况。 随着越来越多的员工依靠 ChatGPT 来优化工作及其过去交互的存储，受损的登录可能会暴露敏感信息，给企业带来重大安全风险。
从 2023 年 1 月到 2023 年 10 月，Group-IB 检测到超过 225,000 个在暗网上出售的日志，其中包含受损的 ChatGPT 凭据。 Group-IB 在非法暗网市场上交易的信息窃取恶意软件的日志中发现了这些被盗用的凭据。
值得注意的是，2023 年 6 月至 2023 年 10 月期间检测到的可访问 ChatGPT 的受感染主机数量超过 13 万台，与前五个月期间（2023 年 1 月至 5 月）相比增加了 36%。 包含 ChatGPT 日志的可用日志数量在研究的最后一个月（即 2023 年 10 月）达到峰值，当时注册了 33,080 个日志。 Group-IB 的分析发现，大部分包含 ChatGPT 帐户的日志都被 LummaC2 信息窃取者破坏了。
