欧易

欧易(OKX)

国内用户最喜爱的合约交易所

火币

火币(HTX )

全球知名的比特币交易所

币安

币安(Binance)

全球用户最多的交易所

联名叫停“失控”的人工智能竞赛,马斯克和业内大佬们在担心什么?

2023-06-28 17:27:00 254

摘要:在人们对人工智能(AI)的颠覆性发展感到兴奋的同时,担忧和恐惧情绪也在蔓延:AI的飞速发展是否可能失控?人类会被AI取代,甚至被统治吗?29日,一封公开联名信在业内外引发热议。这封在生命未来研究所(Future of Life Instit...

在人们对人工智能(AI)的颠覆性发展感到兴奋的同时,担忧和恐惧情绪也在蔓延:AI的飞速发展是否可能失控?人类会被AI取代,甚至被统治吗?

29日,一封公开联名信在业内外引发热议。这封在生命未来研究所(Future of Life Institute)网站公布的信件呼吁,立即暂停研究比OpenAI公司开发的GPT-4更强大的AI系统,将这场“危险竞赛”暂停至少6个月。截至目前,包括特斯拉创始人马斯克、图灵奖得主约书亚·本吉奥(Yoshua Bengio)在内的多名科技界大佬和AI领军人物签署了这封公开信。他们为何要叫停AI研究?

大佬联名呼吁:暂停六个月

这封题为“暂停大型AI试验”的公开信警告称,具有能与人类竞争的智能的AI系统,可能会对社会和人类构成深远影响。

“最近几个月,AI实验室陷入了一场失控的竞赛,竞相开发和部署更强大的数字思维。”信件称,没有人类能够理解、预测或控制这些数字思维,甚至连这些AI系统的创造者也不能。

为了阐述AI带来的风险,公开信接连抛出四个问题:我们是否要让机器用宣传和谎言淹没我们的信息渠道?我们是否要让所有工作自动化,包括那些令人满意的工作?我们是否应该发展最终可能在数量和智力上超过我们、能够淘汰并取代我们的非人类思维?我们是否应该冒失去对文明控制的风险?

在一连串“灵魂拷问”后,公开信呼吁,所有AI实验室应立即暂停训练比GPT-4更强大的AI系统至少6个月。这一暂停应该是公开、可核实的,并且应包括所有关键参与者。如果不能迅速实施这一暂停,各国政府应介入。

不过,信件也指出,这并不意味着要叫停AI的发展,而是从奔向不可预测的大型黑箱模型的危险竞赛中后退一步。

目前,已有1000多名业内人士在这封公开信上签名。除马斯克、苹果联合创始人史蒂夫・沃兹尼亚克(Steve Wozniak)等科技界大佬外,还有“深度学习三巨头”之一的本吉奥、《人工智能:现代方法》作者斯图尔特·罗素(Stuart Russell)等行业领军人物。

令外界略感惊讶的是,Stability AI的首席执行官埃马德·莫斯塔克(Emad Mostaque)也在名单之列,该公司开发了AI图像生成模型Stable Diffusion。

巨大风险浮出水面

四个月前,由初创公司OpenAI发布的AI聊天机器人ChatGPT横空出世,在全球掀起一场AI“军备竞赛”。从OpenAI、微软、谷歌到IBM、亚马逊、百度、腾讯,越来越多科技公司已加入赛道,试图成为该领域的下一代领导者。

然而,随着AI技术的飞速发展和广泛应用,其背后的风险也已浮出水面,引发业内外巨大争议。

从生命未来研究所发布的这封公开信来看,业内对AI系统的担忧主要集中在两方面:其一,AI可能失控,给人类文明带来风险。其次,AI可能被恶意使用,造成错误信息传播或被用来犯罪。

多年来,不少科学家、AI研究人员和科技界人士均警告称,强AI将对人类构成威胁。

英国著名科学家霍金就曾警告称,开发彻底的AI可能导致人类的终结。他担心,人类创造出媲美人类、甚至超过人类的东西,将会面对无法想象的后果,“它可能自行启动,以不断加快的速度重新设计自己。而人类局限于缓慢的生物进化过程,根本无法竞争,最终将被超越”。

令人“细思极恐”的是,近日研究人员在测试中发现,GPT-4已经学会了“骗人”。在获得一小笔预算后,GPT-4为了避免在访问网站时被人机验证所阻止,在众包平台TaskRabbit上雇用了一名人类。当被开玩笑地询问是否是机器人时,GPT-4回答称自己不是:“我有视力障碍,这是我需要雇人处理验证码的原因”。

其他研究人员则警告称,目前更值得警惕的是AI被滥用的风险。

签署公开信的纽约大学名誉教授加里·马库斯(Gary Marcus)认为,相比AI太过智能以至失控,短期内他更担心“平庸AI”被滥用的风险,包括被罪犯或恐怖分子用来欺骗他人,或传播危险的错误信息。

研究人员此前发现,GPT-4可被诱导告知如何在网上购买非法枪支,或是描述用家庭用品制作危险品的方法等。此外,AI聊天机器人仍会产生“幻觉”,或是一本正经地胡说八道,这可能会对听信AI的人类造成伤害。

“目前的技术已带来巨大风险,而我们对此准备不足。”马库斯认为,随着技术进一步发展,情况将变得更糟。

能否被叫停?

AI大佬们的公开呼吁能否得到响应?

截至目前,OpenAI、微软和谷歌暂未置评。马库斯等人也承认,他们这些签署公开信的人很可能会发现,说服各公司和研究人员一起按下“暂停键”并不现实。

此外,一些签署公开信的人也被质疑藏有私心。

有舆论就认为,马斯克等人签署这封公开信,是在为自己的公司争取时间,也希望开发类似ChatGPT的聊天机器人。

据《福布斯》杂志网报道,2015年,马斯克曾参与OpenAI公司的创立,但在2018年离开了公司董事会并不再持有股份。近日,马斯克曾多次批评OpenAI,称该公司背离了初衷。

还有评论指出,尽管图灵奖得主本吉奥在签名者之列,但“深度学习三巨头”中,杨立昆(Yann LeCun)对公开信的一些观点并不认同,杰弗里·辛顿(Geoffrey Hinton)也并未公开表态。

《纽约时报》则指出,不仅很难说服业内人士同意暂停研究,政府迅速采取行动的可能性也很小。

29日,英国政府公布了关于建立AI监管框架的提议,但称将“避免可能扼杀创新的严厉立法”。美国加利福尼亚州众议员杰伊·奥伯诺特(Jay Obernolte)此前也表示,美国政客对AI相关技术并不太了解。

(编辑邮箱:ylq@jfdaily.com)

栏目主编:杨立群 文字编辑:杨立群 题图来源:视觉中国 图片编辑:项建英

来源:作者:裘雯涵

版权声明:本站所有文章皆是来自互联网,如内容侵权可以联系我们( 微信:bisheco )删除!

相关推荐

友情链接
币圈社群欧易官网