欧易

欧易(OKX)

国内用户最喜爱的合约交易所

火币

火币(HTX )

全球知名的比特币交易所

币安

币安(Binance)

全球用户最多的交易所

“人工智能教父”为何反对人工智能:AI会伤害甚至毁灭人类?

2023-06-28 17:27:20 972

摘要:近日,谷歌副总裁兼工程研究员、Vector研究所首席科学顾问、多伦多大学名誉教授、伦敦大学学院(UCL)盖茨比计算神经科学中心创立者、2019年计算机界最高荣誉“图灵奖”获得者、被称为The God father of AI(人工智能教父)...

近日,谷歌副总裁兼工程研究员、Vector研究所首席科学顾问、多伦多大学名誉教授、伦敦大学学院(UCL)盖茨比计算神经科学中心创立者、2019年计算机界最高荣誉“图灵奖”获得者、被称为The God father of AI(人工智能教父),在AI研发领域可谓无人不知、无人不晓的Geoffrey Hinton,从工作了10年的Google辞职,引发全球科研界轩然大波。

头衔有点长的Hinton于1947年出生于英国,曾对AI充满乐观。在过去,科研人员普遍选择输入逻辑和推理程序。而他却选择了在当时非常边缘的“神经网络理论”,仿照人类脑神经系统,让计算机自己学习,自持、自主地进行工作。

2012年,他和两名学生建立“神经网络”,通过让电脑分析上万张照片,学会识别鲜花、狗、汽车等常见物体。其开发的“Capsule Net works(胶囊网络)”原理成为现代很多AI科技基石。Google慧眼识珠,以4400万美元价格收购了这三人创建的微小公司。

正当基于Hinton开发的技术基础,使AI大发展、获得巨大收益之时。他却感到害怕:AI可能对人类造成直接的物理威胁。形象易懂地说,就如同科幻影片里那样,AI会伤害甚至毁灭人类。

Hinton向媒体坦言:自己后悔开发AI,AI可能给人类带来毁灭。“我常找借口安慰自己,就算我不研究这个领域,也会有其他人研究。”然后苦笑道:“我是真的找不到方法,怎样防止坏人用AI做坏事?”他说,现在不管是个人还是公司,都允许AI生成自己的代码,然后再自动运行。AI很可能从大量数据里学到意想不到、人所不知的东西,这种后果很可怕,或许未来某天,它就会成为杀人机器。

目前的AI局限性较大,属“弱人工智能”。不久前,专家们认为“强人工智能”尚需30-50年时间。而Hinton认为:现在我觉得,可能只需20年或更短时间,(强人工智能)就会出现。

现在,不仅是Hinton,越来越多最顶级科技专家对AI越来越担忧:2023年3月,包括Elon Musk在内的全球一千多名顶级科技界领袖签署联名信:要求所有公司停止研究比GPT-4更强的AI至少6个月,希望通过这段时间搞清AI的危害和应对方法。

几天后,“人工智能促进协会”也发表公开信警告AI可能带来危险。签名人里包括微软的首席科学家Eric Horvitz。OpenAI的首席执行官也承认:一个偏离方向的、超级聪明的“强人工智能”可能给世界带来极其严重的危害。

既然这么多科学泰斗都感到危机,那么,AI和其它多学科的研发速度会不会停下来、慢下来呢?

Hinton担忧,科技巨头正陷入一场可能无法停止的(科研)军备竞赛,因为大家无法得知他人是否停止研究,稍有迟疑、滞后就意味着在市场上竞争失利,这就是AI领域的囚徒困境。公司竞争越激烈,AI发展的速度就越快。

这些顶级科学家们的担忧,还仅仅是在人工智能领域。而现实世界,除AI之外,人类的科学研究正在众多方面取得越来越多、越来越快的突破:正在研发的“人造子宫”将代替女性自然分娩;Google旗下DeepMind的AlphaFold算法,已破解几乎人类目前已知的、超过2亿种蛋白质结构;日本九州大学林克彦生物学团队,成功培育出世界上首批完全由雄性小鼠提供遗传物质的、只有父亲没有母亲的小鼠;全球首批由机器人操作人工授精的两名女婴诞生,将使试管婴儿的成本降低70%……这仅仅是近期几个月,不断涌现的令人震撼的科研成果。

科学和技术的发展与进步之快,真有些我们这些肉身人类“生命不能承受之重”的趋势。进行些发散性联想:如果将人工智能、基因科学、生命工程、量子物理、航天科技等多学科前沿突破整合起来,会对人类的未来产生怎样的影响?

科幻影片《X战警》在看似荒诞的剧情之下,有着严肃的哲学思考和科学基础:如上所述,把众多学科的前沿突破综合起来,“X战警”式变种生命体出现,就只是时间问题,这不禁使人想到Y.N.Harari《未来简史》预言:科技进步所创造的新人类种群,将淘汰我们这些智人后裔。而科幻影片通过炫酷打斗特技,向我们展示:平衡被突破后,必引起物种间为生存竞争而进行殊死搏杀。

再看个案例:Twitter有博主把自己整个财务运作交给GPT-4,GPT登录其所有银行账户和信用卡,扫描了10000多笔交易。发现了每月的无用订阅80.86美元,GPT自己起草了法律通知函,进行电子签名,并用USPS快递给对方,取消了订阅会员。然后,在从伦敦飞往纽约的美联航账单里发现了36.99美元WiFi收费,并查证其未能正常工作,就起草了有力且坚定的法律信函,在48小时内获得了航空公司的退款同意。接着,GPT与Comcast谈判折扣:Comcast最初只提供50美元优惠,AI精明地争取到100美元折扣。博主很高兴地说:“在不到24小时里赚了217.85美元,并且还有十几个其它纠纷正在等待处理。”

笛卡尔说“我思故我在”,从AI的迅速发展与“人工智能教父”辞职,发散出一些联想和议论,真希望是抛砖引玉,更多头脑去思辨我们的未来。而不是把思考与工作都抛给AI,自己捧着手机刷短视频、傻笑着娱乐至死。不要再重蹈古罗马的覆辙:罗马人把生产都压在奴隶身上,自己的心灵和品性都在娱乐中日渐消沉……后来,罗马灭亡了。

•(本文仅为作者个人观点,不代表本报立场)

美逸君

版权声明:本站所有文章皆是来自互联网,如内容侵权可以联系我们( 微信:bisheco )删除!
友情链接
币圈社群欧易官网