欧易

欧易(OKX)

国内用户最喜爱的合约交易所

火币

火币(HTX )

全球知名的比特币交易所

币安

币安(Binance)

全球用户最多的交易所

为了10亿美元,OpenAI不惜“出卖”了自己的灵魂?

时间:2023-04-06 09:26:46 | 浏览:217

GPT-3 和 Codex 背后的这家公司并不像他们宣传的那样开放。一旦染上了铜臭味,最崇高的理想也会腐化堕落。OpenAI 成立于 2015 年,是一家非营利性公司,其主旨是努力在安全的前提下创建通用人工智能(AGI)并让全人类共同受益。

GPT-3 和 Codex 背后的这家公司并不像他们宣传的那样开放。


一旦染上了铜臭味,最崇高的理想也会腐化堕落。


OpenAI 成立于 2015 年,是一家非营利性公司,其主旨是努力在安全的前提下创建通用人工智能(AGI)并让全人类共同受益。



“作为一个非营利组织,我们的目标是为每个人,而不是股东创造价值。”果真如此吗?


2019 年,OpenAI 成为一家名为 OpenAI LP 的营利性公司,由一家名为 OpenAI Inc 的母公司控制。这是一种“利润上限”结构,将投资回报限制在原始金额的 100 倍。如果你投资 1000 万美元,最多你会得到 10 亿美元,具体数字可能有所不同。


这次变化的几个月后,微软对其注资 10 亿美元。OpenAI 与微软的合作关系细节没有公开,但前者允许后者将部分技术商业化,正如我们在 GPT-3 和 Codex 上看到的那样。


OpenAI 自认为是引领人类走向更美好未来的最强大力量之一,现在它却被继续追求这一目标所需的资金征服了。我们能否相信他们会信守诺言,继续专注于构建能够造福全人类的人工智能呢?

金钱永远占上风


OpenAI 是一个人工智能研究实验室。但它的野心太大了,相比之下它所获得的资源简直是微不足道。仅仅是训练 GPT-3 就估计花费了他们 1200 万美元,这还只是训练而已。除了那些到最后肯定会要求某种形式的回报的巨头,这个世界上他们去哪儿能找来这么多钱呢?当他们意识到自己需要投资时,微软早就等在门外了,许诺给他们提供云计算服务,代价就是以当时未公开的某种晦涩方式获得将他们的系统商业化的许可。


麻省理工科技评论 AI 记者 Karen Hao 进行了调查,以寻找一些关于 OpenAI 的问题的答案。在一篇精彩的文章(
https://www.technologyreview.com/2020/02/17/844721/ai-openai-moonshot-elon-musk-sam-altman-greg-brockman-messy-secretive-reality/)中,她揭露了 OpenAI 在他们的论述中的不一致之处。为什么一家以确保所有人都能拥有更美好未来为目标的公司突然决定,“为了保持存在感”,他们突然需要大量私人资金?从非营利到营利的转变引发了公众舆论甚至公司内部的疯狂批评。


艾伦人工智能研究所所长 Oren Etzioni 也收到了这一消息,他对此表示质疑:“我不同意非营利组织无法取得竞争优势的观点。如果规模更大、资金更充足的企业永远获胜,那么 IBM 今天仍将是第一大科技巨头。”曾经在 ViceNews 撰稿的 Caroline Haskins 不相信 OpenAI 会信守承诺,忠于他们的使命:“我们从来不曾依靠风险投资家来改善人类的福祉。”


OpenAI 决定将重点放在由更大的计算机和大量数据驱动的规模更大的神经网络上。他们需要钱,很多钱,才能继续在这条道路上走下去。但是,正如 Etzioni 所说,这并不是在 AI 中实现最先进成果的唯一途径。有时你需要创造性地思考新的想法,而不是“在旧池塘里拼命撒网”。

OpenAI 是怎样成为这个故事中的反派的?

GPT-2 和 GPT-3,“危险的”语言生成器


2019 年初,已经是一家营利性公司的 OpenAI 发布了 GPT-2,这是一种强大的语言模型,能够生成媲美人类级别的文本。研究人员认为 GPT-2 在当时是一个巨大的飞跃,甚至发布它都是非常危险的。他们担心它会被用来“传播假新闻、垃圾邮件和虚假信息”。然而,不久之后,他们在发现“没有强有力的滥用证据”后决定分享该模型。


罗格斯大学教授 Britt Paris 表示,“OpenAI 似乎正试图利用围绕人工智能的恐慌来为自己牟利。”许多人将围绕 GPT-2 的担忧声视为一种宣传策略。他们认为该系统并不像 OpenAI 声称的那样强大。然而,从营销的角度来看,他们的确可以用这种方法吸引媒体的注意力,并给 GPT-2 带来他们想要的炒作声浪。OpenAI 否认了这些指控,但舆论对他们的回应并不满意。


如果 GPT-2 没有他们宣称的那么强大,那为什么要试图让它看起来比实际更危险呢?如果它真的有那么强大,为什么仅仅因为他们“没有发现滥用的有力证据”而完全公开它?无论真相是哪一个,他们似乎都没有遵守自己的道德标准。


2020 年 6 月,GPT-3(GPT-2 的继任者)通过一个 API 发布了。OpenAI 似乎认为新系统——比 GPT-2 大 100 倍,更强大,因此本质上更危险——足够安全,可以与世界分享。他们设置了一个候补名单来逐个审查每个访问请求,但他们仍然无法控制系统最终的使用目的。


他们甚至承认,如果产品落入坏人之手,可能会发生一些问题。从潜在的滥用应用程序——包括“错误信息、垃圾邮件、网络钓鱼、滥用法律和政府程序、欺诈性学术论文写作和社会工程借口”——到加强性别、种族和宗教的偏见,都有可能。


他们意识到这些问题是存在的,但仍决定允许用户对系统进行试验。为什么要通过 API 发布它,而不是把模型开源呢?。好吧,OpenAI 说原因之一是“为[他们的]正在进行的人工智能研究、安全和政策努力买单。”


总结一下:“负责”保护我们免受有害人工智能侵害的公司决定让人们使用一个能够搞出来虚假信息和危险偏见的系统,这样他们就可以支付昂贵的维护费用。对我来说,这听起来不是很像“对所有人都有价值”。


理所当然,社交媒体上很快就出现了关于 GPT-3 可能造成的潜在损害的激烈讨论。Facebook 人工智能负责人 Jerome Pesenti 写了一条推文,在推文中举了一个例子:


“我希望 OpenAI 更加开放,不那么耸人听闻。他们只需将[GPT-2 和 GPT-3]开源用于研究目的,尤其是在 #responsibleAI 方面,同时承认两者都没有准备好投入生产,”他说。


为了展示 GPT-3 的独特性,Liam Porr 让这一系统写了一篇主题为提高生产力的文章。他向订阅者分享了这篇文章,但没有透露背后使用的技术。这篇文章在 HackerNews 上排名第一。如果 Porr 这样一名加州大学伯克利分校的学生就能用人工智能编写的文章欺骗所有人,那么一群怀有恶意的人会做什么?


一种可能性是传播假新闻,另一种可能性是传播与其他人工撰写的文章无法可靠区分的假新闻。这正是 GPT-3 的能力,也被 OpenAI 认可——甚至强调了——:


“人类检测 GPT-3175B 生成的较长文章时,平均准确率仅略高于 52%。这表明,对于长度约为 500 字的新闻文章,GPT-3 依旧可以生成人类难以区分的文章。”

Codex 和 Copilot,触犯法律


2021 年,他们也做了类似的事情。


2021 年 7 月,GitHub、微软和 OpenAI 发布了 Copilot,这是一个建立在 Codex 之上的人工智能系统,旨在成为人工智能结对编程程序员。撇开对劳动力的潜在威胁不谈,它受到了强烈批评,因为该系统是用来自公共 GitHub 存储库的开源代码盲目训练的。


GitHub 首席执行官 Nat Friedman 在 HackerNews 中分享了这一消息,引发了对使用 Copilot 的法律影响的担忧。一位用户指出了一些未解决的问题:


“很多问题:


——AI 生成的代码属于我还是 GitHub?——生成的代码属于什么许可证?——如果生成的代码成为侵权的原因,谁来承担责任或采取法律行动?”知名开源开发者 Armin Ronacher 在 Twitter 上分享了一个 Copilot 抄袭大量受版权保护代码的例子:https://t.co/hs8JRVQ7xJ


另一位用户的回应:“我们有直接证据表明 GitHub[Copilot]直接复制了 GPL 的代码块,证明这是在商业环境中使用的非常危险的工具。”


再深入一点,即使 Copilot 没有逐字复制代码,也会出现一个道德问题:像 GitHub 或 OpenAI 这样的公司可以在数千名开发人员生成的开源代码上训练这些系统,然后再对那些开发人员出售这些系统的使用权吗?


对此,程序员兼游戏设计师 Evelyn Woods 表示:“感觉就像是骑脸嘲讽开源世界。”

我们应该把希望寄托在 OpenAI 上吗?


OpenAI 现在的真正意图是什么?他们是否与微软的利益紧密相连,以至于忘记了“造福人类”的初衷?或者他们真的认为他们拥有最好的工具和思想来解释这条道路,即使这意味着他们要将灵魂出卖给一家大型科技公司?我们是愿意让 OpenAI 按照他们的意愿构建未来,还是应该让我们的理想更加多样化,更重要的是,将它们与财务利润区分开来?


OpenAI 是走向更复杂的人工智能形式的道路上的主导力量之一,但还有其他非常有能力的、不受货币束缚的机构也在做相关工作。他们可能无法舒适地躺着赚钱,这可能就是我们应该更加关注这些人工作的原因所在。


归根结底,大型科技公司的首要任务不是怀抱着科学好奇心去探索通用人工智能,也不是构建最安全、最负责任、最合乎道德的人工智能。他们的首要任务——这本身并不违法——是赚钱。道德上的可疑之处在于,他们会不惜一切代价去做这件事,即使这意味着要走我们大多数人都会避开的某些阴暗路线也无所谓。


即使是 OpenAI 的联合创始人埃隆·马斯克也同意这些批评意见:


最后的想法

话虽如此,我仍然相信 OpenAI 员工的确将他们最初的使命作为他们的主要驱动力。但他们不应该忘记,目的并不总是证明手段是正当的。崇高的理想可能会因这些肮脏的手段而受到伤害。


我们想要通用人工智能(AGI)吗?从科学上讲,答案肯定不是否定的。科学好奇心是没有限制的。但是,我们永远都应该评估潜在的危险。核聚变是奇妙的现象,但核聚变炸弹不是。


我们不惜一切代价想要 AGI 吗?现在,从道德上讲,答案不可能是肯定的。这就是我们应该关注的地方,因为我们在快速推进这些技术时所遇到的很多紧迫问题将迟早影响我们所有人的利益。而那些只关心眼前利益的人们,无论是 OpenAI 还是其他任何人,都需要对这种后果负有很大的责任。


原文链接:
https://onezero.medium.com/openai-sold-its-soul-for-1-billion-cf35ff9e8cd4

相关资讯

为了10亿美元,OpenAI不惜“出卖”了自己的灵魂?

GPT-3 和 Codex 背后的这家公司并不像他们宣传的那样开放。一旦染上了铜臭味,最崇高的理想也会腐化堕落。OpenAI 成立于 2015 年,是一家非营利性公司,其主旨是努力在安全的前提下创建通用人工智能(AGI)并让全人类共同受益。

快评GPT-4:OpenAI不open了,机器视觉不存在了

今天凌晨,OpenAI 发布了多模态预训练大模型 GPT-4。眼花缭乱的技术迭代和全新功能毫无疑问再次带给我们巨大震撼,但在冷静之后,本次发布的一些细节也让我们感到担忧:这家将“open”写在公司名称里的科技企业,似乎正在朝着close的方

OpenAI是一家什么样的企业——OpenAI介绍与成果总结

OpenAI是全球最著名的人工智能研究机构,发布了许多著名的人工智能技术和成果,如大语言模型GPT系列、文本生成图片预训练模型DALL·E系列、语音识别模型Whisper系列等。由于这些模型在各自领域都有相当惊艳的表现,引起了全世界广泛的关

回顾|OpenAI入门(二)-用Blazor构建OpenAI应用

OpenAI入门(三)|构建自己的VisualStudioCodeCopilot组件

OpenAI与支付公司Stripe合作,将ChatGPT商业化

OpenAI将与支付公司Stripe合作,后者为其ChatGPT等人工智能工具提供支付和订阅服务。Stripe 还将把 OpenAI 的新自然语言技术 GPT-4 融入其产品和服务中。Stripe首席技术官David Singleton表示

OpenAI发布新语音系统「Whisper」,英文识别能力可接近人类水平

AI自己写代码让智能体进化!OpenAI的大模型有“人类思想”那味了

金磊 梦晨 发自 凹非寺量子位 | 公众号 QbitAI搞事情!AI“看”了一眼GitHub上人类都是怎么提交更新(commit)的,然后就模仿人类程序员修改代码……最终,这个AI还成功“调教”出了个智能体机器人:没开玩笑,这种细思极恐的事

金牛座男生腼腆成熟下,隐藏着自己狂野的灵魂?

金牛座男生的性格看似腼腆成熟有些害羞的金牛座男孩,在憨厚的外表之下隐藏着自己狂野的灵魂,因此金牛座总是有些矛盾,对待别人的时候和自己独处的时候有着很大的差别,至少是不一致的,一个人的时候狂野的灵魂在颤动。金牛男大多数时候都不是很自信,可是

双子座:一个对有趣灵魂很欣赏的星座,却未必适合自己

都说“有趣的灵魂,百里挑一”,有时候,有趣的灵魂比美丽的皮囊,更能够让人欣赏,就像双子座的人就是如此。很多时候,当他们对一个人产生感情,往往来自于对方跟自己的不同,让自己觉得充满魅力,他们喜欢的人,大多有着有趣的灵魂,只是,却未必适合自己,

OpenAI官方推出AI生成内容识别器,成功率26%,不如论文查重工具

机器之心报道编辑:泽南、杜伟很多人也许已经忘记,ChatGPT 正式发布时间是去年 11 月底,到现在才刚刚两个月,但它掀起的热潮却已引发科技公司纷纷跟进,催生了独角兽创业公司,还让学术界修改了论文接收的要求。在 ChatGPT 引发 AI

AI可能初具意识?OpenAI首席科学家言论引争议,众大佬吵成一团

“今天的大型神经网络可能已经初具意识了。”OpenAI首席科学家Ilya Sutskever在Twitter上撂下这句话,可谓语不惊人死不休。这下可让AI圈炸开了锅,人工智能、神经科学领域专家的回复滚滚而来。反击最激烈的就是图灵奖得主、Me

AI脑回路竟和人类如此相似,OpenAI最新研究引热议

两个月前轰动网络的AI设计大师CLIP,刚刚被OpenAI“扒开”了脑子。没想到,这个性能强大的AI竟和人类思维方式如此相像。打个比方,无论你听到“炸鸡”二个字,还是看到炸鸡实物,都可能流口水。因为你的大脑里有一组“炸鸡神经元”,专门负责对

GPT-4来了!10秒钟做出一个网站,考试中击败90%的人类,OpenAI付款系统被挤爆

每经编辑:孙志成,毕陆名,盖源源3月15日,#GPT4做一个网站只要十秒#登上热搜。当地时间周二(3月14日),人工智能研究公司OpenAI公布了其大型语言模型的最新版本——GPT-4。在官方演示中,GPT-4几乎就只花了十来秒的时间,识别

GPT-4太强,OpenAI也不懂!智能到底是怎么突然「涌现」的?

编辑:LRS【新智元导读】不可解释的智能,未来该如何发展?2023年至今,ChatGPT和GPT-4始终霸占在热搜榜上,一方面外行人都在惊叹于AI怎么突然如此强大,会不会革了「打工人」的命;另一方面,其实内行人也不明白,为什么模型规模在突破

友情链接

网址导航 SEO域名抢注宝宝起名网妈妈知道币圈蜜蜂养殖知识网澳洲进口奶粉代购沙滩排球运动网牛蛙养殖网广西旅游网严浩翔歌迷网车主网韦尔股份A股黄鳝养殖技术今日临沂音响品牌网崇左新闻资讯网湖南旅游网智能门锁品牌网今日咸阳
ChatGPT聊天机器人-ChatGPT OpenAI聊天机器人是美国OpenAI研发的聊天机器人程序,ChatGPT是人工智能技术驱动的自然语言处理工具,它能够通过学习和理解人类的语言来进行对话,还能根据聊天的上下文进行互动,真正像人类一样来聊天交流。中国版chatGPT、chatGPT中文网、chatgpt安卓下载、ChatGPT国内手机版、ChatGPT注册教程、ChatGPT免费注册账号、ChatGPT微信小程序。
ChatGPT聊天机器人 wnwz.cn ©2022-2028版权所有