这些是对 AI 的 3 大恐惧。他们真的堆积如山吗?
人工智能与核战争和全球流行病一样危险。
这是根据人工智能安全中心 (CAIS) 发布的最新警告得出的。该声明得到了 AI 行业主要参与者的支持,其中包括ChatGPT创建者OpenAI的负责人Sam Altman。
该警告是最近几个月发出的众多警告之一。该技术的一些早期创造者声称,我们正朝着毁灭人类的方向奋勇前进,而其他人则警告说,迫切需要监管。
其中一些陈述让人们难以理解越来越夸张的说法。
剑桥大学人工智能专家兼助理教授大卫克鲁格表示,虽然人们可能希望在谈到人工智能的存在风险时有具体的场景,但仍然很难以任何程度的确定性指出这些场景。
“我并不担心,因为从某种意义上说,存在迫在眉睫的威胁,我可以确切地看到威胁是什么。但我认为我们没有太多时间为即将到来的潜在威胁做准备,”他告诉 Insider。
考虑到这一点,以下是专家们担心的一些潜在问题。
1. 人工智能接管
最常提到的风险之一是人工智能将脱离其创造者的控制。
通用人工智能 (AGI) 是指在广泛的任务中与人类一样聪明或比人类更聪明的人工智能。当前的人工智能系统没有感知力,但它们被创造得像人类一样。例如,ChatGPT 旨在让用户感觉他们正在与另一个人聊天,Janis Wong 在谈到艾伦图灵研究所时说。
据 Insider 的Aaron Mok 报道,专家们对如何准确定义 AGI 存在分歧,但普遍认为这项潜在技术对人类构成危险,需要进行研究和监管。
克鲁格说,这些危险最明显的例子是国家之间的军事竞争。
他说:“与自主武器的军事竞争——系统的设计能够影响物理世界并造成伤害——这样的系统最终如何杀死很多人似乎更加清楚。”
“当我们拥有比人类更聪明的先进系统时,未来由人工智能驱动的全面战争场景,我认为系统很可能会失去控制,最终可能会杀死所有人,”他说添加。
2. 人工智能导致大规模失业
越来越多的人认为人工智能对某些工作构成威胁。
蒙特利尔人工智能伦理研究所创始人 Abhishek Gupta表示,人工智能引发的失业前景是最“现实、直接,或许也是紧迫”的生存威胁。
“我们需要看看人们在集体失业时会感到缺乏目标,”他告诉 Insider。“它的存在主义部分是人们将要做什么以及他们将从哪里获得目标?”
“这并不是说工作就是一切,但它是我们生活的一部分,”他补充道。
CEO们开始公开他们利用人工智能的计划。例如,IBM 首席执行官 Arvind Krishna 最近宣布,该公司将放慢对可被AI 取代的职位的招聘。
“四五年前,没有人会说这样的话,也不会被认真对待,”古普塔谈到 IBM 时说。
3. 人工智能偏见
专家告诉 Insider,如果人工智能系统被用来帮助做出更广泛的社会决策,系统性偏见可能会成为一个严重的风险。
已经有几个生成人工智能系统存在偏见的例子,包括早期版本的 ChatGPT。OpenAI添加了更多护栏,以帮助 ChatGPT 避免用户向系统询问攻击性内容的问题答案。
根据 Insider 今年早些时候进行的测试, 生成式 AI 图像模型会产生有害的刻板印象。
古普塔说,如果用于做出现实世界决策(例如批准福利)的人工智能系统存在未被发现的偏见,可能会产生严重后果。
Wong 表示,训练数据通常主要基于英语语言数据,而用于训练其他不同语言的 AI 模型的资金有限。
“所以有很多人被排除在外,或者某些语言的培训不如其他语言,”她说。
过去24小时新闻
- 乌克兰的战略击落:仔细观察 Su-25 的损失
- 拜登宣布对中国产品加征关税,抨击北京“作弊”
- 日圆贬值外国游客暴增 失物海外配送顺势诞生
- 格鲁吉亚总统表示,抗议者可以利用10月的选举来“推翻”外国代
- 等待CPI报告股指走升那指收创历史新高
- 拜登对电动汽车等中国商品加征关税 特朗普:这三年半你去哪儿了
- 布林肯突访乌克兰会见泽连斯基,指美国军援将扭转战场局面
- 中国誓言采取“一切必要行动”应对拜登的关税
- 拜登提高对180亿美元中国进口商品关税 包含电动汽车、太阳能
- 澳最大反对党敦促当局必须解释允许中国“秘密警察”在澳大利亚开
- 世界反兴奋剂机构本周将就中国游泳运动员药检问题召开特别会议
- 格鲁吉亚立法者不顾大规模抗议,批准有争议的“外国代理人”法案
- 中澳关系回暖乏力,澳洲航空7月将暂停飞往上海的航班服务