OpenAI微软阻止中国朝鲜的黑客使用ChatGPT

“

OpenAI和Microsoft的研究显示，某些国家的黑客正在利用OpenAI系统进行网络攻击，但并非如人们担心的那样创造奇特攻击，而是提高效率地进行常规操作。微软已追踪数百个黑客组织，发现其利用AI规避防御和进行网络钓鱼。

OpenAI 和 Microsoft 本周三发布的研究指出，一些国家的黑客利用了 OpenAI 的系统进行网络攻击。这项研究记录了与外国政府有联系的黑客如何在攻击中使用生成式人工智能。但与科技行业的一些担心相反，这些黑客并没有像一些人担心的那样利用人工智能生成奇特的攻击，而是在日常工作中使用了它，比如起草电子邮件、翻译文件和调试计算机代码。

微软负责跟踪和破坏主要网络攻击的 Tom Burt 表示：“他们只是像其他人一样使用它，试图在他们正在做的事情上更加高效。”微软已向 OpenAI 承诺了 130 亿美元，并且这家科技巨头和初创公司是密切合作伙伴。他们分享了威胁信息，以记录与中国、俄罗斯、朝鲜和伊朗有关的五个黑客组织如何使用 OpenAI 的技术。这些公司没有透露具体使用了哪种 OpenAI 技术。这家初创公司表示，在得知这一使用情况后已经关闭了他们的访问权限。

自从 OpenAI 在 2022 年 11 月发布了 ChatGPT 以来，科技专家、媒体和政府官员一直担心对手可能会将更强大的工具武器化，寻找新的创造性方法来利用漏洞。然而，与一些人的担忧相反，现实可能更加低调。

OpenAI 的 Bob Rotsted，负责网络安全威胁情报表示：“我还没有看到任何证据表明它是否提供了新的、加速对手的新颖东西，超出了更好的搜索引擎可能提供的范围。”他表示，OpenAI 限制了客户可以注册账户的地点，但是高级的罪犯可以通过各种技术来规避检测，比如伪装他们的位置。

微软表示，与伊朗的伊斯兰革命卫队有关的黑客组织曾使用人工智能系统研究方法来规避防病毒软件扫描器并生成网络钓鱼邮件。该公司表示，这些邮件包括“一个假装来自国际发展机构的邮件和另一个试图吸引知名女权主义者访问一个攻击者建立的女权主义网站”。

在另一个案例中，试图影响乌克兰战争的俄罗斯附属组织使用了 OpenAI 的系统来研究卫星通信协议和雷达成像技术。

微软跟踪超过 300 个黑客组织，包括网络犯罪分子和国家机构，OpenAI 的专有系统使跟踪和破坏他们的使用变得更容易。这些高管表示，虽然有办法确定黑客是否在使用开源人工智能技术，但是开放系统的激增使任务变得更加困难。

“当工作是开源的时候，你就无法总是知道谁在部署这项技术，他们如何部署它，以及他们对技术的负责和安全使用的政策是什么，” Burt 先生说。他说，微软没有发现俄罗斯黑客在上个月披露的针对微软高管的黑客攻击中使用了生成式人工智能。