OpenAI 关闭中国、俄罗斯、伊朗、朝鲜违规行为的账户
OpenAI 已关闭了五个帐户,声称政府特工使用这些帐户生成网络钓鱼电子邮件和恶意软件脚本,以及研究逃避恶意软件检测的方法。...
具体来说,中国、伊朗、俄罗斯和朝鲜显然正在使用超级实验室的模型“查询开源信息、翻译、查找编码错误并运行基本编码任务”。美国秃鹰认为这就是 OpenAI 产品的全部意义,但这些国家似乎已经越界了,他们使用这些系统的目的是有害的,或者是直接不受欢迎的人。
该公司在周三的一份声明中强调了服务的终止,称其与其超级支持者微软合作来识别并终止这些帐户。
“我们捣毁了五个与国家有关的恶意行为者:两个与中国有关的威胁行为者,称为“木炭台风”和“鲑鱼台风”;与伊朗有关联的威胁组织 Crimson Sandstorm;朝鲜演员 Emerald Sleet;以及俄罗斯相关演员森林暴雪”,OpenAI 团队写道。
OpenAI 的 GPT-4 等会话式大型语言模型可用于提取和总结信息、编写消息和编写代码等任务。OpenAI 试图通过过滤有害信息和恶意代码的请求来防止其软件被滥用。
该实验室还低调重申 GPT-4 无论如何都不擅长做坏网络事情,并在其声明中提到,通过 API 或 ChatGPT Plus 提供的神经网络“仅为恶意网络安全提供有限的增量功能”任务超出了公开可用的、非人工智能驱动的工具已经可以实现的任务。”
微软的威胁情报团队分享了他们自己对恶意活动的分析。该文件表明,中国的“木炭台风”和“鲑鱼台风”都曾攻击亚洲和美国的公司,它们使用 GPT-4 来研究有关特定公司和情报机构的信息。这些团队还翻译了技术论文,以了解有关网络安全工具的更多信息 - 公平地说,这项工作可以通过其他服务轻松完成。
微软还认为,伊朗武装部队控制的 Crimson Sandstorm 部队试图通过 OpenAI 的模型方法来运行脚本任务,逃避恶意软件检测,并试图开发高度针对性的网络钓鱼攻击。Emerald Sleet 代表朝鲜政府,要求人工智能实验室在策划网络钓鱼活动的基础上,搜索与亚太地区相关的国防问题和公共漏洞的信息。
最后,俄罗斯军事情报小组 Forest Blizzard(也被称为臭名昭著的 Fancy Bear 小组)研究了开源卫星和雷达成像技术,并寻找自动化脚本任务的方法。
OpenAI 此前淡化了其模型帮助攻击者的能力,暗示其神经网络在针对已知漏洞进行攻击方面“表现不佳”。
过去24小时新闻
过去24小时与48小时之间新闻
- 天文学家可能刚刚解开了一个经久不衰的金星之谜
- 日圆贬破158刷新34年低点 日银未表态支撑、美元又强硬
- 新的深水航道允许第一艘船通过巴尔的摩的基桥残骸
- 撞上巴尔的摩基桥的船主再次被起诉
- 大印钞也救不活经济!中国M2首度突破1300兆
- 中国房企碧桂园去年财报仍「难产」 称需要更多消息做判断
- 你能吃鲑鱼皮吗?这是你需要知道的
- 美股创今年最大单周涨势 AI能否延烧就看这两大咖财报
- 国民党总召议员傅崐萁访陆 国台办向花莲灾区捐赠组合屋 民进党
- 经济学家表示,俄罗斯经济受到乌克兰战争的推动,无论输赢都无法
- 俄罗斯炼油厂和军用机场成为无人机袭击的目标,因为乌克兰的热能
- Alphabet 加入了市值 2 万亿美元的俱乐部,并可能超
- 俄罗斯的液化天然气扩张计划碰壁