欧易

欧易(OKX)

国内用户最喜爱的合约交易所

火币

火币(HTX )

全球知名的比特币交易所

币安

币安(Binance)

全球用户最多的交易所

GPT-4火爆,遍地开花的人工智能会失控吗|新京智库

时间:2023-04-06 09:58:11 | 浏览:80

3月20日,在天津市人工智能计算中心中控室,技术人员在监控设备运行情况。图/新华社OpenAI的GPT-4、微软的Copilot、百度的文心一言、谷歌的Bard、Adobe的Firefly……近期,国内外一系列生成式人工智能应用发布,引发了

3月20日,在天津市人工智能计算中心中控室,技术人员在监控设备运行情况。图/新华社

OpenAI的GPT-4、微软的Copilot、百度的文心一言、谷歌的Bard、Adobe的Firefly……近期,国内外一系列生成式人工智能应用发布,引发了广泛的关注。

除了对技术进步感到兴奋,有风险意识的人也会产生这样的担忧:人工智能会失控吗?风险如何防范管控?

美国人工智能研究实验室OpenAI公司的首席执行官山姆·阿尔特曼(Sam Altman)近日表示,他对人工智能(AI)技术的潜力感到兴奋,但也对一些潜在的滥用行为“有点害怕”。

OpenAI是近期大火的AI聊天机器人ChatGPT的开发商,该公司由埃隆·马斯克与阿尔特曼等人共同创立。

上月,OpenAI创始人之一的埃隆·马斯克表示,“它有巨大的前景也有巨大的能力,但随之而来的危险也是巨大的。”

人工智能还没到“失控”水平

3月15日,OpenAI发布的GPT-4安全文件中提到, “一些特别令人担忧的是制定长期计划并采取行动、积累权力和资源(‘寻求权力’)以及表现出越来越‘自主’的行为的能力。”

据媒体报道,近年来,有人工智能研究人员提出警告,足够强大的AI模型如果没有得到适当控制,可能会对人类构成生存威胁。尤其是“人工智能接管(AI takeover)”,这是人工智能超越人类智能成为地球主导力量的假想未来。在这种情况下,人工智能可能会导致灾难性后果。

随着人工智能的高速发展,其可能带来的风险也引起了人们的高度关注。这就带来了一个担心,遍地开花的人工智能会失控吗?

首先,这种失控现在来看还不致于发生,因为目前的人工智能还没发展到这个水平。

失控的前提是AI要具有自主性,就是在很大程度上独立完成任务。那么,在AI系统没有足够理解人类价值观和道德准则的情况下,这种自主性就可能导致失控的风险。

但目前的生成式AI本质上还是人类的工具,给它一个指令,它来生成相应的文字、图片等内容,所以人们暂时还不需要有这方面的担心。

当然,随着技术的不断发展,未来这个潜在风险会成为我们重点去关注的问题。

更有可能失控的是用技术来为非作歹的人

比起失控的技术,更有可能失控的是用技术来为非作歹的“人”。比如,恶意使用者可能会利用ChatGPT来制造虚假信息、实施欺诈活动或进行其他不道德行为。

这很像人们担心会被AI替代导致失业一样,这其实是关注错了重点。因为其实人不会被AI淘汰(至少目前不会),而是会被掌握AI工具的“人”淘汰。

因此,这个层面上的风险,关键因素都在于人,而不是技术本身。因为即便没有AI,坏人也会用其他手段做坏事,善于学习的人也会运用其他工具提升自己的竞争力。

虽然AI目前不至于失控,但还是有一些风险。

一方面是它们会一本正经地胡说八道,如果用户把它所说的都认定为事实,那就会被误导。在这方面需要媒体多做普及,让更多人认识到ChatGPT等AI大模型并非无所不知。

另一方面,有可能出现个人隐私或商业机密泄露的情况。比如,用户在与ChatGPT等聊天机器人交流时,无意识地提供了敏感信息,如个人身份信息、联系方式或公司内部信息等。一旦这些信息被记录或存储,就可能导致隐私或商业机密的泄露。虽然AI服务提供商会采取措施保护用户数据,但数据存储和传输过程中仍然可能存在安全风险。

此外,由于训练数据集可能存在偏见,聊天机器人的回答会反映这些偏见,从而导致歧视性或不公平的结果。也可能因无法准确判断道德和伦理问题,有时产生不道德或具争议的建议。

从三个方向规避人工智能风险

那人类该如何规避这些风险呢?可以从三个方向进行。

第一个方向就是提高公众的认知。一方面要提高对AI技术的了解,避免被不恰当的信息所误导;另一方面,提高数据安全意识,避免泄露个人隐私或商业机密等敏感信息。新闻媒体在其中可发挥重要作用。

第二个方向是实施更全面的人工智能监管。首先,需要制定明确的法规和指导方针,以规范AI的研发、部署和使用。其次,政府、企业、研究机构和民间组织需要加强合作,共同制定和执行AI监管政策,这有助于确保政策的全面性和有效性。另外,由于 AI技术不受国界限制,应积极参与全球性的AI治理倡议,以确保全球范围内的政策协调和一致性。

第三个方向就是加强对于AI安全的研究。政府、企业和研究机构应增加对AI安全研究的投资,为相关项目提供充足的资金和资源。此外要重视AI安全领域的人才培养,鼓励学生和研究人员从事相关研究,可以通过提供奖学金、实习机会和专门的课程来实现。同时进行跨学科合作,鼓励计算机科学家、安全专家、伦理学家、法学家等领域的专家进行跨学科合作,共同应对AI安全所带来的挑战。

OpenAI在创立之初的核心宗旨就是——实现安全的通用人工智能,使其有益于人类。

“安全”这两个字对人工智能来说至关重要。无论是作为开发者、用户还是监管者,人们都应当时刻关注AI技术的安全性,确保人工智能不会被滥用。只有这样,我们才能充分发挥人工智能的潜力,为人类社会带来更多便利和进步。

文/刘兴亮(DCCI互联网研究院院长)

编辑/柯锐

校对/王心

相关资讯

chatGPT,AI时代到来?一文告诉你到底何为GPT!GPT能做什么!

近期chatGPT异常火爆,仅仅用了60 天用户就直接破亿,这是何等可怕的速度!于是乎国内外大厂纷纷追随 AIGC 步伐, ChatGPT 引领 AI 在科技圈一路“狂飙”!由于涉及到太多的专业词汇,开始之前,先通俗易懂的解释这些词汇(图1

当人工智能“初见”元宇宙2022世界人工智能大会“元”气启幕

2022WAIC元宇宙展区 汤彦俊 摄中新网上海9月1日电 (记者 郑莹莹)步入第五年的2022世界人工智能大会1日在上海世博中心启幕。与往年不同的是,今年的开幕很“元”气。2022WAIC展区 汤彦俊 摄 当天的开幕式会场,分“实”“虚”

2022世界人工智能大会观察:人工智能与元宇宙互融,AI世界渐行渐近

人工智能可以为人类带来什么?在第五届世界人工智能大会(WAIC)现场,机器人打扫卫生、送咖啡、专业消毒等辅助人类的应用场景集中展出,而人工智能与元宇宙互融共促的趋势,则引领人们看到了一个万物智联的AI世界。让我们一起走进大会现场,一览未来“

人工智能处于爆发式增长前夜:为何人工智能应用仍然较为零星?

经济观察网 胡群/文在6月25日召开的招商银行股东大会上,招商银行行长田惠宇表示,招商银行正在探索银行3.0模式,即大财富管理的业务模式+金融科技的运营模式+开放融合的组织模式。越来越多的金融机构加大对金融科技投入。近日,北京产权交易所披露

人工智能有一天会超越人脑吗?人工智能未来的三种可能

人工智能加速发展,有一天会超越人脑吗?近日,清华大学基础科学讲席教授、心理学系主任刘嘉在“人文清华讲坛”上发表了演讲《脑与人工智能:站在进化的节点上》。他指出,虽然目前人工智能无法与人脑相比,但它发展迅猛,类人智能是人工智能的下一个发展目标

人工智能是否会带来毁灭?对“人工智能灭世论”的质疑与反思

在电影《异形:契约》中,迈克尔·法斯宾德所扮演的仿生人大卫表面上对人类亲切友好,但实际上却通过一系列行为为人类带来灾祸。而在现实中,如霍金、马斯克、比尔.盖茨等名人都曾警告过人们要警惕人工智能可能带来的危害。对于“人工智能灭世论”的支持者而

人工智能入门系列(1):人工智能的基本概念和应用场景

未来一段时间本人将不定期的以系列文章形式,分享本人在学习人工智能过程中的一些收获。本文将介绍人工智能相关的一些基本概念、典型应用场景、一级人工智能相关的一些重要术语。1. 智能代理(Intelligent Agent)AI程序被称为智能代理

ChatGPT持续创造历史记录:AIGC,人工智能的旷世之作

(报告出品方/分析师:华西证券 刘泽晶)1.近期热点内容 1.1.AIGC 的一小步,AI 的一大步 ChatGPT 持续火热:ChatGPT 是一种聊天机器人软件:全名为 Chat Generative Pre-Trained Trans

本周汽车行业大涨7%,人工智能大热,ChatGPT、AIGC概念等题材爆发

全周维度来看,申万31个一级行业涨多跌少,汽车“马力十足”本周累计大涨7%,有色金属(+3.85%)、基础化工(+3.58%)、机械设备(+3.44%)、农林牧渔(+3.19%)涨幅也超过3%,计算机、钢铁、传媒、环保、电子、国防军工、石油

人工智能行业ChatGPT专题研究:开启AI新纪元

(报告出品方/作者:华西证券,刘泽晶)AI纪元,ChatGPTChatGPT:AI的旷世巨作ChatGPT是一种聊天机器人软件: 全名为Chat Generative Pre-Trained Transformer,是OpenAI于 202

Google正在测试人工智能聊天机器人以回击ChatGPT挑战

据CNBC本周报道,Google已经开始测试一种名为Apprentice Bard的人工智能聊天机器人,它与ChatGPT类似,后者是一项在线服务,在许多方面比Google搜索更有用。ChatGPT使用被称为大型语言模型的人工智能技术,在互

ChatGPT月活用户突破1亿!AIGC成人工智能赛道“香饽饽”,上市公司加码布局

什么是ChatGPT?人工智能如何改造多个行业?

ChatGPT去年刚刚发布,已经在改变着多个行业。你可能听说过ChatGPT,这是一个革命性的新工具,自去年年底发布以来一直是头条新闻。这个由人工智能驱动的聊天机器人根据用户输入的提示生成回复。用户利用ChatGPT做了很多事情,从帮助做作

从硅谷到浦东,看人工智能ChatGPT利弊

2022年12月,微软投资的AI实验室OpenAI发布ChatGPT,立刻火遍全网,短短5天内吸引了100万名用户。在北密歇根大学的一门课程论文评分时,用ChatGPT撰写的论文甚至得到了A+的评分,被教授认为是“全班最好的论文”。其出现对

“特别能聊”的人工智能聊天机器人ChatGPT会聊出些什么?

图片源于网络 图文无关阅读提示全新人工智能聊天机器人模型ChatGPT不仅能够通过学习人类的语言来进行对话,还能根据聊天的上下文进行互动,让人们更直观地感受到了人工智能的魅力。包括内容生成、搜索引擎增强等在内的领域,将是其潜在的产业化方向。

友情链接

网址导航 SEO域名抢注宝宝起名网妈妈知道币圈c语言中文官网国际黄金金价网世纪数藏NFT紫燕食品股票牙科知识科普网钻石期货网NBA赛程网佛山照明灯饰网洗衣机品牌大全网铁皮石斛资讯网东南电子股票阿玛尼奢侈品华硕电脑评测网玛莎拉蒂跑车网张子枫影迷网
ChatGPT聊天机器人-ChatGPT OpenAI聊天机器人是美国OpenAI研发的聊天机器人程序,ChatGPT是人工智能技术驱动的自然语言处理工具,它能够通过学习和理解人类的语言来进行对话,还能根据聊天的上下文进行互动,真正像人类一样来聊天交流。中国版chatGPT、chatGPT中文网、chatgpt安卓下载、ChatGPT国内手机版、ChatGPT注册教程、ChatGPT免费注册账号、ChatGPT微信小程序。
ChatGPT聊天机器人 wnwz.cn ©2022-2028版权所有