美国政府警告：ChatGPT存在重大安全风险

新闻资讯 2023-07-12 20:34 44 0

【FreeBuf粉丝交流群招新啦！

在这里，拓宽网安边界

甲方安全建设干货；

乙方最新技术理念；

全球最新的网络安全资讯；

群内不定期开启各种抽奖活动；

FreeBuf盲盒、大象公仔......

扫码添加小蜜蜂微信回复“加群”，申请加入群聊】

作者丨流苏

编辑丨zhuo

近日，美国联邦政府发布了一份报告，称用户需密切注意ChatGPT存在的网络安全风险，尤其是在网络钓鱼和恶意软件开发领域。

在其发布的咨询意见报告中，政府部门警告，尽管微软支持的人工智能工具ChatGPT获得了前所未有的成功，吸引了大量头部企业和资本疯狂涌入AI赛道，一时间AI成为当下最为火热的赛道之一。

但是，AI 也带来了安全方面的风险，尤其是在网络钓鱼邮件制作和恶意软件生成等方面，以ChatGPT为代表的AI工具存在重大安全风险。该报告指出，为了防止这类AI工具带来的威胁，企业必须积极主动地采取极其谨慎、尽职尽责和密切注意的态度，避免出现更糟糕的情况。

攻击者正在利用ChatGPT放大作恶能力

该报告列举了恶意攻击者使用ChatGPT的部分方法清单，具体如下所示：

1.恶意软件生成: 利用ChatGPT生成恶意软件不再只是一种可能存在的理论，恶意攻击者对它的利用已经越来越熟练，并且在暗网上开始了各种各样的讨论和尝试。

2.制作网络钓鱼电子邮件:和恶意软件生成不同的事，在钓鱼邮件方面ChatGPT已经向用户展现出其强大的能力。恶意攻击者可以利用它来生成网络钓鱼和鱼叉式网络钓鱼电子邮件，并且这些电子邮件有可能通过电子邮件提供商的垃圾邮件过滤器。

3.诈骗网站: 通过降低代码生成门槛，ChatGPT 可以帮助技能较低的威胁行为者轻松构建恶意网站，例如伪装和网络钓鱼登陆页面。例如，零技能或很少技能的恶意行为者可以使用 ChatGPT 克隆现有网站，然后对其进行修改、构建虚假电子商务网站或运行带有恐吓软件诈骗的网站等。

4.发布虚假信息: 通过 ChatGPT，用户可以使用能够撰写极具说服力的散文、在短时间内生成数千条虚假新闻报道和社交媒体帖子的软件。

企业&用户安全防范指南/预防措施

1、提高对钓鱼邮件的防范

千万不要打开未知、意外或可疑的电子邮件、链接和附件；
在下载附件之前，使用电子邮件服务提供商提供的防病毒软件对其进行扫描，即便是可信任的附件。如果电子邮件服务不提供病毒扫描功能，则所有下载的文件在打开前都可以用本地的杀毒软件扫描；
对所有计算机设备，包括个人台式电脑、笔记本电脑、手机、可穿戴设备等操作系统和软件应用程序进行更新；
在所有的计算机设备中使用著名的、可信的防病毒软件；
不要在官方设备上使用个人帐户；
尽可能使用多因素身份验证(MFA)；
绝不与未经授权/可疑的用户、网站、应用程序等共享个人信息和证书；
始终在浏览器中键入URL，而不是直接点击链接.
始终用https开放网站打开链接，不访问http网站。