欧易

欧易(OKX)

国内用户最喜爱的合约交易所

火币

火币(HTX )

全球知名的比特币交易所

币安

币安(Binance)

全球用户最多的交易所

人工智能之父警告:“AI会对人类构成威胁”

2023-06-28 17:25:25 19

摘要:参考消息网5月3日报道据美国《纽约时报》网站5月1日报道,被视为人工智能(AI)之父的杰弗里·欣顿周一宣布离开谷歌。欣顿博士和他在加拿大多伦多大学的两名研究生在2012年创造了一项技术,该技术成为人工智能系统的奠基石,而人工智能现在被科技大...

参考消息网5月3日报道据美国《纽约时报》网站5月1日报道,被视为人工智能(AI)之父的杰弗里·欣顿周一宣布离开谷歌。欣顿博士和他在加拿大多伦多大学的两名研究生在2012年创造了一项技术,该技术成为人工智能系统的奠基石,而人工智能现在被科技大企业视为未来的关键。

欣顿周一正式加入到人工智能批评者的行列。批评者们认为,那些积极开发基于人工智能的产品的企业是在加速走向危险。

欣顿说,他已辞去谷歌的工作,并对自己一生致力于人工智能开发感到有些后悔。欣顿已为谷歌效力长达十年。

欣顿从人工智能奠基人到末日预言者的转变,标志着科技产业的一个关键时刻,该行业正处于几十年来最重要的转折点。业界领袖认为,人工智能系统的重要性可与上世纪90年代初引入网络浏览器媲美,并可能给从制药到教育等一系列领域带来突破。

但许多业内人士担心,这有可能是一项危险的技术。人工智能已经成为生成错误信息的工具。很快,它就会带来就业风险。对人工智能感到最不放心的业界人士甚至认为,人工智能可能对人类构成威胁。

欣顿说:“很难找到防止坏人用它做坏事的方法。”

在旧金山初创企业开放人工智能研究中心(OpenAI)今年3月发布新版ChatGPT之后,1000多名技术领袖和研究人员签署公开信,呼吁在6个月内暂停开发人工智能新系统。

几天后,有40年历史的人工智能促进会的19名现任和前任领导人发表公开信,警告人工智能存在风险。

1972年,作为英国爱丁堡大学的一名研究生,欣顿接受了所谓人工神经网的概念,即通过分析数据学习技能的系统,并以研发该系统作为主要工作。

20世纪80年代,欣顿在卡内基-梅隆大学计算机系担任教授,但后来离开该大学前往加拿大,因为他不想接受五角大楼的经费资助。当时,美国的大部分人工智能研究都是由国防部资助的。但欣顿强烈反对在战场上使用人工智能,即他所说的“机器士兵”。

2012年,欣顿博士和他在多伦多的两名学生伊利亚·苏茨克韦尔和亚历克斯·克里舍夫斯基共同创建了一个人工神经网,它可以通过分析数千张照片建立自己识别物体的能力,比如认识花、狗和汽车。

谷歌斥资4400万美元收购了由欣顿博士及其两名学生创办的公司。他们创建的系统催生了越来越强大的技术,包括聊天机器人ChatGPT和谷歌的巴德(Bard)。苏茨克韦尔后来成为OpenAI的首席科学家。

大约同一时间,谷歌、OpenAI和其他公司开始建立通过大量数字化文本学习的人工神经网。去年,谷歌公司和OpenAI公司开始利用更庞大的数据建立人工智能系统。欣顿博士认为,这些系统在某些方面仍然不如人脑,但在其他方面已经超过了人类智力。

他认为,随着企业逐渐升级人工智能系统,它们将变得越来越危险。

现在,微软用聊天机器人加强了必应搜索引擎,谷歌也想采用同样的技术。欣顿说,科技巨头们已经陷入一场可能无法停止的竞争。

他眼下最担心的是,互联网上将充斥着各种虚假照片、虚假视频和文字,普通人“再也无法知道什么是真的了”。

他还担心人工智能会颠覆就业市场。目前,ChatGPT这样的聊天机器人还是人类的助手,但它们已经可以胜任一些死记硬背的工作。欣顿说:“这不仅会夺走工作机会,它会夺走更多。”

欣顿担心,新版本的人工智能会对人类构成威胁,因为它们往往会通过分析海量数据学会令人意想不到的本领。他说,这会带来问题,因为技术人员和公司不仅允许人工智能系统自己生成代码,而且还允许它们自行运行代码。他担心,有朝一日这会使杀人机器人变为现实。

他说:“过去,有人认为这种东西会变得比人更聪明,我认为这样想为时过早,成为现实至少还需要30到50年,甚至更长时间。显然,我现在不这么认为了。”

欣顿博士认为,谷歌和微软等公司之间的竞争将升级为一场全球竞赛,除非有某种形式的全球监管,否则竞赛不会停止。

但他说,监管不太可能,因为与核武器不同,目前无法知道企业或国家是否在秘密研发这项技术。最大的希望是世界顶尖科学家联手找到控制这项技术的方法。欣顿说:“我认为,不应再升级该技术,直到人们确定是否能控制住人工智能。”

版权声明:本站所有文章皆是来自互联网,如内容侵权可以联系我们( 微信:bisheco )删除!
友情链接