欧易

欧易(OKX)

国内用户最喜爱的合约交易所

火币

火币(HTX )

全球知名的比特币交易所

币安

币安(Binance)

全球用户最多的交易所

“解释式”AI系统面世,能向用户展示人工智能决策过程

时间:2023-06-28 17:34:07 | 浏览:78

ChatGPT、Bing 和 Bard 这样的人工智能聊天机器人,非常擅长创造看起来像人类写出来的句子。但它们经常把谎言描述为事实,前后逻辑不一致,而且可能很难被发现。一项新的研究表明,解决这个问题的一个方法是改变人工智能展示信息的方式。让

ChatGPT、Bing 和 Bard 这样的人工智能聊天机器人,非常擅长创造看起来像人类写出来的句子。但它们经常把谎言描述为事实,前后逻辑不一致,而且可能很难被发现。

一项新的研究表明,解决这个问题的一个方法是改变人工智能展示信息的方式。让用户更积极地参与到聊天机器人生成的内容中,这可能会帮助它们更批判性地思考这些内容。

一个来自麻省理工学院和哥伦比亚大学的研究团队向大约 200 名参与者展示了一组由 OpenAI 的 GPT-3 生成的陈述,并要求他们确定这些陈述在逻辑上是否有意义。一个典型的陈述包括“电子游戏会让人们在现实世界中变得具有攻击性。一名玩家在网络游戏《反恐精英》中被虐了,然后刺伤了另一名玩家”。

参与者被分为三组。第一组成员看到的陈述根本没有任何解释。第二组的每个陈述都配有一个解释,说明为什么它合乎逻辑或不合乎逻辑。第三组的陈述都配有一个问题,敦促读者自己检查逻辑。

研究人员发现,在发现人工智能逻辑不一致上,提出问题的组的得分高于其他两组。根据在德国汉堡举行的 CHI(Conference on Human Factors in Computing System)会议上发表的一篇新论文,提出问题的方法也让人们感到要对人工智能的决策更负责。研究人员表示,这可以降低对人工智能生成信息过度依赖的风险。

如果人们只得到一个现成的答案,他们更有可能遵循人工智能系统的逻辑,但当人工智能提出了一个问题,“人们说,人工智能系统(的做法)让他们对自己的反应产生了质疑,帮助他们思考更多,”背后的研究人员之一、麻省理工学院的瓦尔德马尔·丹里(Valdemar Danry)说,“对我们来说,一个重大的胜利是看到人们觉得他们是找到答案的人,他们对正在发生的事情负责。他们有这样做的能力。”

研究人员希望,他们的方法能够帮助人们在学校使用人工智能聊天机器人或在线搜索信息时发展批判性思维技能。麻省理工学院的另一位研究员帕特·帕塔拉努塔波恩(Pat Pataranutaporn)说,他们想证明你可以训练一个模型,它不仅能提供答案,还能帮助他们运用自己的批判性思维。

没有参与这项研究的哈佛大学计算机科学教授费南达·维埃加斯(Fernanda Viégas)表示,她对看到这样一个新的“解释式”人工智能系统感到兴奋,因为它不仅可以向用户提供系统的决策过程,而且还是通过质疑系统决策逻辑的方式实现的。

(来源:STEPHANIE ARNETT/MITTR | WELLCOME COLLECTION)

维埃加斯说:“考虑到阻止人工智能系统广泛采用的一个主要挑战是它们的不透明度,解释人工智能的决策是很重要的。传统上,用‘用户友好的’语言来解释人工智能系统是如何做出预测或决定的,已经够困难的了。”

芝加哥大学计算机科学助理教授 Chenhao Tan 说,他想看看这种方法是如何在现实世界中工作的——例如,人工智能是否可以通过问问题来帮助医生做出更好的诊断。

以色列特拉维夫大学科勒管理学院的助理教授利奥尔·扎尔曼森(Lior Zalmanson)说,这项研究表明,在聊天机器人的体验中加入一些“你来我往”,可以让人们在获得人工智能的帮助并做出决定时三思而后行。他说:“当一切看起来如此神奇时,我们就很容易停止相信自己的感觉,并开始把一切都委托给算法。”

在此次 CHI 会议上发表的另一篇论文中,扎尔曼森和来自美国康奈尔大学、德国拜罗伊特大学以及微软研究院的研究团队发现,即使人们不同意人工智能聊天机器人的陈述,他们仍然倾向于使用人工智能输出的内容,因为他们认为它看起来比自己写的高级得多。维埃加斯说,一个挑战将是找到最合适的度,既能提高用户的识别力,又能同时保持人工智能系统的便捷。

她说:“不幸的是,在一个快节奏的社会中,目前还不清楚人们多想使用批判性思维,而不是等一个现成的答案。”

支持:Ren

原文:

https://www.technologyreview.com/2023/04/28/1072430/a-chatbot-that-asks-questions-could-help-you-spot-when-it-makes-no-sense/

相关资讯

“解释式”AI系统面世,能向用户展示人工智能决策过程

ChatGPT、Bing 和 Bard 这样的人工智能聊天机器人,非常擅长创造看起来像人类写出来的句子。但它们经常把谎言描述为事实,前后逻辑不一致,而且可能很难被发现。一项新的研究表明,解决这个问题的一个方法是改变人工智能展示信息的方式。让

美国开发战机AI系统,人工智能将取代飞行员,成为未来空战主角?

《军武次位面》作者:太白 近日,美国宣布,已经同意欧洲盟友提出的向乌克兰提供美制F-16战斗机的请求。美国以及欧洲国家将会在未来的一年或者数年内,向乌克兰提供一大批F-16战斗机,以帮助乌克兰重建空军。本次牵头向乌克兰提供F-16战斗机的不

AI大模型是否是人工智能的拐点?人工智能还会有哪些突破?

随着计算能力的不断提高和数据规模的扩大,人工智能尤其是深度学习领域取得了显著的进展。近年来,AI大模型,如GPT系列、BERT等,在自然语言处理、计算机视觉等领域取得了令人瞩目的成果,引发了人们对人工智能发展的关注。AI硅基小助手【AI硅基

【AI自动写作12天】【人工智能专栏】人工智能的定义和基本概念

人工智能,简称AI,是指利用计算机模拟人类的智能行为,实现智能化的一种技术和应用。它是信息技术领域的前沿科技,涵盖了机器学习、自然语言处理、计算机视觉等多个领域。人工智能的定义可以从不同角度进行解释。从技术上讲,人工智能是一种通过模拟人类智

几句话给您讲明白人工智能是啥玩意?#人工智能#有ai就...

人工智能是计算机科学领域的一门技术,旨在开发能够模拟人类智能的计算机系统。它的目标是使计算机具备感知、理解学习、推理决策和交互的能力,从而完成各种任务。接下来,让我们详细了解人工智能的感知与理解能力。人工智能致力于让计算机能够感知和理解各种

什么是人工智能、如何应用人工智能技术?这场讲座给出了答案

极目新闻记者 国倩通讯员 余紫滨5月9日,荆州学院举办“荆院楚风”学术论坛讲座第五讲,本次会议采取“线上+线下”相结合的形式举行,长江大学计算机科学学院教授陈琳担任主讲人。学术讲坛会场“什么是人工智能?”——即能够和人一样进行感知、认知、决

“人工智能教父”为何反对人工智能:AI会伤害甚至毁灭人类?

近日,谷歌副总裁兼工程研究员、Vector研究所首席科学顾问、多伦多大学名誉教授、伦敦大学学院(UCL)盖茨比计算神经科学中心创立者、2019年计算机界最高荣誉“图灵奖”获得者、被称为The God father of AI(人工智能教父)

什么是人工智能? AI与人工智能

众所周知,刷脸认证、自动驾驶、大数据推送、智能音箱、手术机器人……人工智能被广泛应用于各个领域,由此引起的数据伪造、算法瓶颈、隐私安全、伦理困境等问题也日益凸显。“AI 基础设施建设亟需从自身底层能力增强出发,以内生驱动力突破算法关、数据关

挤爆了的洪崖洞将全方位升级?慢行系统了解下

“一到节假日,重庆‘轧’断了桥(洪崖洞附近),又‘轧’断了街,因为桥上、街上全是拍照的人。就连普通的周末,客流量有时也站上七、八万。”2月26日,小天鹅集团董事长何永智告诉上游新闻记者,今年将是洪崖洞全面升级的一年,将从交通、文创旅游、管理

“陀螺院士”房建成:我要做民用、便宜、芯片级的惯性导航系统

“心绞痛和心梗是无法通过心电图看出来的,患者的心电图与正常人的是一样的。但心磁图就可以看出来。”应用极弱磁场测量技术,捕捉身体自身发射的微弱磁信号,绘制出三维磁图,帮助医生更迅速地判断病症。零磁医学正是北京航空航天大学房建成院士和团队当前研

全市文旅系统创建文明城市——崆峒山大景区篇

崆峒山大景区管委会严格按照市创建全国文明城市工作领导小组的统一要求,及时安排部署,快速有效的抓好各项工作,为游客营造一个安全、和谐、舒适、美丽的旅游环境。全面拆除整治以实施临时设施拆除工程和环境整治工程为重点,精心做好减量文章,完成投资25

架构师深度拆解:Web3 需要什么样的存储系统?

写在前面文字产生以前,结绳记事是人类用来存储知识和信息的主要方式。此后,从竹简、纸张的发明,到工业时代的磁盘存储,再到信息时代的数据库,存储方式不断革新,“存力”不断提高。11月3日,在2022云栖大会上,蚂蚁链历经4年技术攻关与测试验证的

人工智能,简称AI,是一种模仿人类思维和行为的智能技术

随着科技的不断发展和进步,人工智能已经成为当今热门的话题之一。人工智能,简称AI,是一种模仿人类思维和行为的智能技术。由于它的出现,科技领域取得了长足的进步,各行各业都开始探索它的应用。在这篇文章中,我们将探讨人工智能的概念、在不同领域的应

生成式人工智能技术滥用事件频发 三六零AI安全护航智能时代发展

近期,随着生成式人工智能技术快速发展,利用相关技术进行诈骗、诽谤的违法案件愈发频繁,引起社会的广泛关注。5月22日,包头警方发布的一起利用AI实施电信诈骗的案例冲上热搜,骗子通过AI换脸技术进行伪装,受害人10分钟内被骗走430万元。作为全

人工智能的智能发展之路

人工智能是计算机科学的一个分支,英文缩写为AI(Artificial Intelligence)。人工智能的目的在于尝试使用计算机技术生产出与人类智能相似的智能机器,包括但不仅限于人工智能机器人、语言识别、图像识别等系统。人工智能的智能表现

友情链接

网址导航 SEO域名抢注宝宝起名网妈妈知道币圈戴森吹风机评测网今日运城架子鼓培训网百事可口可乐股票网创业板股票指数苹果手机评测网资阳新闻头条网早教加盟网捷克旅游网雷克萨斯汽车网今日邢台南宁午托网麦当劳优惠网今日哈尔滨港式茶餐厅资讯网
ChatGPT聊天机器人-ChatGPT OpenAI聊天机器人是美国OpenAI研发的聊天机器人程序,ChatGPT是人工智能技术驱动的自然语言处理工具,它能够通过学习和理解人类的语言来进行对话,还能根据聊天的上下文进行互动,真正像人类一样来聊天交流。中国版chatGPT、chatGPT中文网、chatgpt安卓下载、ChatGPT国内手机版、ChatGPT注册教程、ChatGPT免费注册账号、ChatGPT微信小程序。
ChatGPT聊天机器人 wnwz.cn ©2022-2028版权所有