By | 2023年7月3日

人工智能领域的许多知名人士都签署了一份简短声明,警告他们的技术可能预示着人类的终结。

周二发布的完整声明指出:“减轻人工智能灭绝的风险应该与流行病和核战争等其他社会规模的风险一起成为全球优先事项。”

该声明发布在总部位于旧金山的非营利组织人工智能安全中心的网站上。它由近 400 人签署,其中包括该领域的一些知名人士——ChatGPT 背后的公司 OpenAI 的首席执行官 Sam Altman,以及来自谷歌和微软的顶级 AI 高管以及 200 名学者。OpenAI 首席执行官 Sam Altman 于 2023 年 5 月 26 日在巴黎发表讲话。

该声明是 AI 专家提出的一系列警告中的最新声明——但也引发了越来越多的反对,反对关注一些人认为过度夸大的 AI 假设危害。

加密消息应用程序 Signal 的总裁兼 AI Now Institute 的首席顾问 Meredith Whittaker 嘲笑该声明是技术领导者过度承诺他们的产品。人工智能公司 Hugging Face 的联合创始人兼首席执行官克莱门特·德兰格 (Clément Delangue) 在推特上发布了一张编辑过的图片,该图片是将“AGI”替换为人工智能的声明的编辑版本。

AGI代表人工通用智能,它是人工智能的一种理论形式,具有与人类同等或更强大的能力。两个月前,包括特斯拉老板埃隆马斯克、苹果联合创始人史蒂夫沃兹尼亚克和 IBM 首席科学家格雷迪布奇在内的另一组人工智能和技术领袖签署了一份请愿书,呼吁“暂停”所有大规模人工智能对公众开放的研究。他们都还没有签署新的声明,这样的停顿也没有发生。

奥特曼一再呼吁对人工智能进行监管,本月早些时候让国会大开眼界。他与数十名众议院议员举行了私人晚宴,并成为了参议院友好听证会的主题,他成为了罕见的两党都喜欢的科技高管。奥特曼的监管呼吁有其局限性。上周,他表示如果人工智能变得“过度监管” ,OpenAI 可能会离开欧盟。

虽然白宫已经宣布了一些解决人工智能问题的计划,但没有迹象表明美国即将制定对该行业进行大规模监管的计划。领先的人工智能评论家、纽约大学心理学和神经科学名誉教授加里马库斯表示,虽然人工智能的潜在威胁非常真实,但只担心假设的最坏情况会让人分心。

“字面上的灭绝只是一种可能的风险,尚未得到充分理解,人工智能还有许多其他风险也值得关注,”他说。一些技术专家表示,人工智能的更平凡和直接的使用对人类构成更大的威胁。微软总裁布拉德史密斯曾表示,深度造假技术及其被用于虚假信息的可能性是他对这项技术的最大担忧。返回搜狐,查看更多

发表回复

您的电子邮箱地址不会被公开。 必填项已用*标注