OpenAI 取缔与中国和其他国家有关的秘密行动

据 OpenAI 研究人员称，中国宣传人员正在使用 ChatGPT 在社交媒体网站上撰写帖子和评论，并创建绩效评估，详细说明他们的老板的工作。

该公司使用该公司的人工智能聊天机器人创建内部文件，以及另一家中国企业制作宣传其工作的营销材料，正值中国加大影响舆论和进行在线监控的努力之际。

“我们从中国看到的是，使用越来越多的策略进行越来越多的秘密行动，”OpenAI 情报和调查团队的首席研究员本·尼莫（Ben Nimmo）在与记者就该公司的最新威胁报告进行电话会议时表示。

OpenAI 表示，在过去三个月中，它以恶意方式使用其 AI 工具破坏了 10 次作，并禁止了与之相关的帐户。该公司表示，其中四项业务可能来自中国。

与中国有关的行动“针对许多不同的国家和主题，甚至包括一个策略游戏。其中一些结合了影响力运作、社会工程、监视等元素。他们确实在多个不同的平台和网站上工作，“Nimmo 说。

在许多情况下，该作会生成帖子以及回复它的评论，OpenAI 的报告称，这种行为“似乎旨在制造自然参与的错误印象”。该行动使用 ChatGPT 生成对游戏的批评评论，然后写了一篇长篇文章，声称该游戏受到了广泛的反对。

OpenAI 表示，Sneer Review 背后的参与者还使用 OpenAI 的工具进行内部工作，包括创建“绩效评估，详细描述建立和运行运营所采取的步骤”。“我们在网络上观察到的社交媒体行为与本次审查中描述的程序非常相似。”

OpenAI 与中国相关的另一项行动侧重于通过冒充记者和地缘政治分析师来收集情报。它使用 ChatGPT 为 X 上的帐户撰写帖子和传记，将电子邮件和消息从中文翻译成英文，并分析数据。OpenAI 表示，这包括“就政府官员的提名致美国参议员的信件”，但补充说，它无法独立确认这些信件是否已发送。

“他们还使用我们的模型生成了看起来像营销材料的东西，”Nimmo 说。OpenAI 在其报告中表示，在这些活动中，该行动声称它进行了“旨在招募情报来源的虚假社交媒体活动和社会工程”，这与其在线活动一致。

在 2 月份的上一份威胁报告中，OpenAI 发现了一项与中国有关的监控行动，该行动声称要监控社交媒体，“以将有关西方抗议活动的实时报告提供给中国安全部门”。该作使用 OpenAI 的工具来调试代码并编写可用于社交媒体监控工具的销售宣传的描述。

在周三发布的新报告中，OpenAI 表示，它还破坏了可能源自俄罗斯和伊朗的秘密影响行动、据称是菲律宾一家商业营销公司的垃圾邮件行动、与柬埔寨有关的招聘骗局，以及带有与朝鲜有关行动特征的欺骗性就业活动。

“值得承认的是，这些行动使用的战术和平台的范围之广和多样性，所有这些都将它们放在一起，”尼莫说。然而，他表示，这些运营在早期阶段在很大程度上受到了干扰，没有接触到大量真实的受众。