恶意行为者运用GenAI：尚未达到预期，但需警惕

网络威胁联盟 (CTA) 的但需警惕最新报告得出结论 ，GenAI帮助降低了恶意行为者的恶意入门门槛，并提高了他们的用G预期效率 ，即更快地创建令人信服的但需警惕深度伪造内容、发起网络钓鱼攻击和投资诈骗。恶意

不过 ，用G预期就目前而言，但需警惕它并没有让攻击者变得“更聪明”，恶意也没有彻底改变网络威胁。高防服务器用G预期

恶意行为者如何使用GenAI

该报告基于 CTA 成员可获得的但需警惕数据和实证案例研究，解释了攻击者目前使用GenAI的恶意几个方面 ：

创建深度伪造视频和欺骗性图像、克隆特定声音的用G预期录音、编写高度逼真的但需警惕电子邮件 、信息和网站内容辅助创建恶意软件(但无法在没有额外人为输入和调整的恶意情况下创建恶意软件)优化命令和控制操作(例如 ，用于管理僵尸网络)传播错误信息和虚假信息(例如，用G预期以推动网络阴谋论 、服务器租用影响选举活动)创建由AI控制的虚假社交媒体账户网络(机器人农场)

分析人员发现 ，“虽然AI创新无疑具有强大功能
，但到目前为止，它们只是逐步提升了对手的能力 ，并没有创造出全新的威胁
。”

挫败AI增强的威胁

迄今为止  ，基础的建站模板网络安全实践——定期软件更新、多因素身份验证、离线数据备份、终端监控  、行为分析等——对于抵御所有威胁(包括那些由AI增强的威胁)仍然至关重要。

但对抗后者还需要结合技术解决方案(如深度伪造检测器)以及更为重要的持续教育、获取特定技能(如知道如何进行事实核查
、反向图像搜索  、验证元数据等)和鼓励批判性思维。

CTA 分析师切尔西·康纳德指出 ：“企业应强调以内容分析为重点的免费模板培训 ，并培养一种健康怀疑的文化。应鼓励员工提出诸如‘是我发起的这个请求吗?’或‘这次通信与之前的交流一致吗?’等问题。”

“其他防御措施可以依赖于技术和流程相结合的措施 。技术工具可以分析内容是否被篡改 ，例如音频不匹配。云计算当这些工具不足时
，企业可以依赖基于流程的措施，包括多渠道验证
 、双重审批或预先安排的认证短语，以提供关键保障。”

好消息是，对手对GenAI的使用尚未达到炒作的程度，模板下载如果企业和机构行动迅速
 ，他们可以部署防御措施来阻止大多数由AI增强的威胁。