出名危险出资家马克·安德森 (Marc Andreessen) 以“软件正在吞噬国际software is eating the world”而出名。在谈到人工智能时，他宣称人们应该中止忧虑并持续发明。

周二，安德森宣布了一篇万字长文，论述了他对人工智能的观念、它带来的危险以及他以为AI需求的监管。在企图抵消最近悉数关于“AI 末日论”的评论时，他提出了一种能够被视为过于理想主义的观念：‘AI不想杀你Doesn’t want to kill you’。

安德森从对 AI 或机器学习的了解开端，称其为“运用数学和软件代码来教计算机怎样故相似于人类的办法了解、归纳和生成常识”。

他说，人工智能是没有感知力的——虽然它仿照人类言语的才能能够了解、捉弄一些人。事实是，它承受了人类言语的练习，并在该数据中找到高档办法。 

“人工智能不想，它没有方针，它不想杀死你，由于它没有生命，”他写道。“人工智能是一台机器——不会比你的烤面包机更有生命力。”

安德森写道，现在在 AI 国际中有一堵“分布惊骇和末日论的墙”。在没有点名的状况下，他或许指的是出名技能*宣称该技能对人类构成生计要挟的说法。上星期，微软创始人比尔·盖茨、OpenAI 首席执行官萨姆·奥特曼Sam Altman、DeepMind 首席执行官戴米斯·哈萨比斯Demis Hassabis 等人签署了一封来自人工智能安全中心的关于“人工智能灭绝的危险the risk of extinction from AI”的信。

安德森写道，科技公司的首席执行官们有动力宣传这种国际末日的观念，由于“假如树立监管壁垒，AI 供货商规划就会受政府维护 ，免受新创业公司和开源竞赛的影响，他们就会赚更多的钱。”  

许多人工智能研讨人员和品德学家也批评了国际末日的说法。一种观念以为，过火重视人工智能不断添加的力气及其未来要挟，会涣散人们对实践日子中一些算法对边际化社区构成损害的留意力，而不是在未指明的未来。

安德森写道，担任 AI 安全专家、AI 品德学家和 AI 危险研讨人员等人物的人“被付钱的监督是注定要失利的，他们的陈说应该得到恰当的处理，”他写道。实践上，人工智能研讨、品德、信赖和安全社区的许多*都明晰对立末日观念，而是专心于减轻当今记录在案的技能危险。

安德森并没有供认任何记录在案的人工智能在实践日子中的危险——它的成见会影响面部识别体系、保释决议、刑事司法程序、典当借款赞同算法等等——宣称人工智能或许是“一种让咱们关怀的悉数变得更好的办法”。 

他以为，人工智能在出产力、科学打破、构思艺术和下降战时逝世率方面具有巨大潜力。

“今日人们用他们的天然智能/智力做的任何作业，都能够用人工智能做得更好，”他写道。“并且咱们将能够应对没有人工智能就无法应对的新应战，从治好悉数疾病到完成星际游览。” 

安德森在 1990 时代因开发*个盛行的互联网浏览器而声名鹊起，他于 2009 年与本霍洛维茨Ben Horowitz一同创办了他的危险出资公司。两年后，他写了一篇经常被引证的博客文章，题为“为什么软件正在吞噬国际”，其间说就像之前的许多作业相同，医疗保健和教育应该进行“根据软件的根本转型”。

“吞噬国际”Eating the world 正是许多人在谈到 AI 时所惧怕的。安德森说，除了企图消除这些忧虑之外，还有许多作业要做。他鼓舞有争议地运用 AI 本身，来维护人们免受 AI 成见和损伤。

他说：“与私营部门协作的政府应大力参加每个潜在危险范畴，以运用人工智能*极限地进步社会的防护才能。”  在安德森自己的理想主义未来中，“每个孩子都会有一位无限耐性、无限慈善、无限常识、无限帮忙的 AI 导师。” 关于人工智能作为每个人、科学家、教师、首席执行官、政府领导人乃至军事指挥官的协作同伴和协作者的人物，他表达了相似的愿景。 

在安德森的整篇文章中，他指出了其别人在揭露表达他们对 AI 的观念时的心怀叵测。但他也有自己的。他想在 AI 革射中挣钱，并以此为方针出资草创公司。

“我不信赖他们是莽撞的或恶棍，”他在帖子中总结道。“他们都是英豪，每一个人。我和我的公司很快乐能尽或许多地支撑他们，咱们将 100% 支撑他们和他们的作业。”

以下是安德森《为什么人工智能会解救国际》Why AI Will Save The World 一文，编译共享给咱们：

人工智能时代来了，人们都吓坏了。

走运的是，我来这儿是为了带来好消息：人工智能不会消灭国际，实践上或许会解救国际。 

首要，扼要阐明AI是什么：运用数学和软件代码来教计算机怎样故相似于人类的办法了解、归纳和生成常识。AI 是一种与其他任何计算机程序相同的计算机程序——它运转、承受输入、处理并生成输出。人工智能的输出在广泛的范畴都很有用，从编程到医学到法令再到构思艺术。与任何其他技能相同，它由人具有并由人操控。 

对 AI不是什么的简略描绘是：杀手软件和机器人会忽然复生并决议谋杀人类或以其他办法销毁悉数，就像你在电影中看到的那样。

对 AI或许是什么的更简略描绘是：一种让咱们关怀的悉数变得更好的办法。 

为什么人工智能能够让咱们关怀的悉数变得更好 

经过几十年和数千项研讨，社会科学最有用的中心结论是，人类智力human intelligence能够改进广泛规划的日子效果。更聪明的人简直在每个活动范畴都有更好的效果：学业成绩、作业体现、作业位置、收入、发明力、身体健康、长命、学习新技能、办理杂乱使命、领导力、创业成功、抵触处理、阅览了解、财政决议方案拟定、了解别人的观念、发明性艺术、育儿效果和日子满意度。  

此外，人类智力是咱们几千年来用来发明咱们今日日子的国际的杠杆：科学、技能、数学、物理、化学、医学、动力、修建、交通、通讯、艺术、音乐、文明、哲学、品德。假如没有在悉数这些范畴运用智力，咱们都将依然住在泥屋里，牵强坚持生计农业的菲薄生计。相反，在曩昔的 4,000 年里，咱们运用咱们的才智将咱们的日子水平进步了 10,000 倍。 

AI 为咱们供给的是深入增强人类智力的时机，使悉数这些智力效果——以及许多其他效果，从新药的发明到处理气候变化的办法，再到抵达星际游览的技能——变得更好。

AI 对人类智力的增强现已开端——AI 现已以多种计算机操控体系的办法存在于咱们身边，现在正经过 ChatGPT 等 AI 大型言语模型敏捷晋级，并且从这儿开端加速——假如咱们答应的话。

在咱们的人工智能新时代： 

每个孩子都会有一位无限耐性、无限慈善、无限常识、无限帮忙的AI导师。AI导师将陪伴在每个孩子生长的每一步，用无限爱的机器版帮忙他们发挥*潜能。 

每个人都会有一位无限耐性、无限怜惜、无限常识和无限帮忙的 AI 帮手/教练/导师/培训师/参谋/医治师。人工智能帮手将在日子中的悉数时机和应战中呈现，*极限地进步每个人的效果。 

每个科学家都会有一个 AI 帮手/协作者/同伴，这将极大地扩展他们的科学研讨和效果规划。每个艺术家、每个工程师、每个商人、每个医师、每个护理人员都会在他们的国际中具有相同的东西。 

每个人的*——首席执行官、政府官员、非营利安排主席、体育教练、教师——都会有相同的东西。*做出的更好决议方案对他们所领导的人的扩大效应是巨大的，因而这种智力增强或许是最重要的。 

整个经济体的出产率添加将急剧加速，推进经济添加、新工业的发明、新作业时机的发明和薪酬添加，并导致全球物质昌盛的新时代到来。 

跟着人工智能帮忙咱们进一步破译天然法则并为咱们获取利益，科学打破以及新技能和药物将显着扩展。 

构思艺术将进入黄金时代，由于人工智能增强的艺术家、音乐家、作家和电影制作人将能够比以往任何时分更快、更大规划地完成他们的愿景。 

我乃至以为人工智能将在必要时经过大幅下降战时逝世率来改进战役。每一场战役的特色都是在巨大的压力下做出可怕的决议，并且由十分有限的人类领导人供给极点有限的信息。现在，军事指挥官和政治领导人将具有人工智能参谋，帮忙他们做出更好的战略和战术决议方案，*极限地削减危险、过错和不必要的流血事件。 

简而言之，当今人们运用其天然智力所做的任何作业都能够经过 AI 做得更好，咱们将能够应对假如没有 AI 就无法应对的新应战，从治好悉数疾病到完成星际游览。 

这不只仅是关于智力！或许人工智能最被轻视的质量是它的人性化程度。人工智能艺术让缺少技能技能的人能够自在地发明和共享他们的艺术主意。与善解人意的 AI 朋友攀谈的确能够进步他们处理窘境的才能。人工智能医疗谈天机器人现已比人类同行更具同理心。无限耐性和赋有怜惜心的人工智能不会让国际变得愈加严厉和机械化，而是会让国际变得愈加温温暖夸姣。 

这儿的危险很高。时机是深远的。人工智能很或许是咱们文明所发明的最重要——也是*的——东西，当然能够与电力和微芯片混为一谈，乃至或许逾越它们。 

人工智能的开展和分散——远非咱们应该忧虑的危险——是咱们对自己、对咱们的孩子和对咱们的未来所承当的品德责任。 

有了人工智能，咱们应该日子在一个更夸姣的国际中，现在咱们能够做到。 

那么为什么惊惧？ 

与这种活泼观念构成鲜明对比的是，现在关于 AI 的群众对话充溢着歇斯底里的惊骇和偏执狂。 

咱们听到这样的说法，人工智能会以各种办法杀死咱们悉数人，销毁咱们的社会，夺走咱们悉数的作业，构成严峻的不平等，并让坏人做出可怕的作业。 

怎样解说这种从近乎乌托邦到可怕的反乌托邦的潜在效果的差异？ 

从前史上看，每一项重要的新技能，从电灯到轿车到收音机再到互联网，都引发了一种让人们信赖新技能将炸毁国际、社会的影响。几十年来，失望主义者档案馆的优异人士记录了这些技能驱动的品德惊惧；他们的前史使这种办法生动明晰。事实证明，现在的惊惧乃至不是 AI 的*次。 

现在，能够必定的是，许多新技能导致了糟糕的效果——一般是相同的技能在其他方面临咱们的福祉产生了巨大的优点。因而，仅仅存在品德惊惧并不意味着没有什么可忧虑的。 

但品德惊惧实质上对错理性的——它把或许是合理的忧虑夸张到歇斯底里的程度，具有挖苦意味的是，这使得人们更难面临实在严峻的忧虑。 

咱们现在对人工智能有全面的品德惊惧吗？ 

这种品德惊惧现已被各种参加者用作动力，要求采纳方针举动——新的 AI 约束、法规和法令。这些举动者就人工智能的危险宣布了极点戏剧化的揭露声明——滋长并进一步鼓动品德惊惧——悉数这些人都把自己体现为公共利益的忘我保卫者。  

但他们是吗？ 

他们是对仍是错？ 

人工智能的浸信会和走私者 

经济学家观察到这种变革运动的长时刻办法。这些运动中的参加者分为两类——“浸信会”和“走私者”——学习了1920 时代美国禁酒的前史比如：

“浸信会”是实在的信徒社会变革者，他们合理地——深入地和心情化地，假如不是理性地——以为需求新的约束、法规和法令来避免社会灾祸。 

关于禁酒令，这些举动者一般是实在忠诚的基督徒，他们以为酒精正在损坏社会的品德结构。  

关于 AI 危险，这些参加者实在信赖 AI 会带来一种或另一种存在危险——将他们绑在测谎仪上，他们是仔细的。 

“走私者”是自私自利的时机主义者，他们经过施行新的约束、法规和法令将他们与竞赛对手阻隔开来，然后在经济上获利。 

关于禁酒，这些是字面上的私酒估客，他们在制止合法酒类出售时向美国人出售不合法酒类发了财。 

关于 AI 危险，假如树立监管壁垒，这些 CEO 将赚更多的钱，这些壁垒构成了一个由政府支撑的 AI 供货商组成的卡特尔，维护它们免受新创业公司和开源竞赛的影响——“大而不倒”银行的软件版别。 

嫉恶如仇的人会以为，一些显着的浸信会教徒也是走私者——特别是那些被他们的大学、智囊团、活动家集体和媒体组织付钱进犯 AI 的人。假如你拿薪水或承受助学金来滋长 AI 惊惧……你或许是走私者。  

走私者的问题在于他们会赢得他们想要的。浸信会是单纯的空想家，走私者是嫉恶如仇的经营者，所以像这样的变革运动的效果往往是走私者得到他们想要的东西——监管抓获、竞赛阻隔、卡特尔的构成——而浸信会则感到疑问他们推进社会进步的动力在哪里出错了。 

咱们刚刚阅历了一个令人震惊的比如——2008 年全球金融危机后的银作业变革。浸信会告知咱们，咱们需求新的法令法规来拆分“大到不能倒”的银行，以避免此类危机再次产生。因而，（美）国会经过了 2010 年的多德-弗兰克法案，该法案标榜为满意浸信会的方针，但实践上却被走私者——大银行所选用。效果是，2008 年“大到而能倒”的银行现在规划大得多。 

所以在实践中，即便浸信会是真挚的——即便浸信会是正确的——他们也被操作和贪婪的私酒估客用作维护，以使自己获益。 

这便是现在在推进 AI 监管方面正在产生的作业。 

可是，仅仅确认举动者身份并质疑他们的动机是不行的。咱们应该考虑浸信会和走私者的观念。 

AI 危险 #1：AI 会杀死咱们悉数人吗？ 

*个也是开端的 AI 末日危险是 AI 将决议实在杀死人类。 

对咱们自己发明的技能会鼓起并炸毁咱们的惊骇深深地融入了咱们的文明中。希腊人在普罗米修斯神话中表达了这种惊骇——普罗米修斯给人类带来了火的损坏力，更遍及的是技能（“techne”），为此普罗米修斯被众神判处*摧残。 后来，玛丽雪莱在她的小说《弗兰肯斯坦》或《现代普罗米修斯》 中为咱们现代人供给了这个神话的版别，咱们在其间开发永生技能，然后兴起并企图炸毁咱们。当然，假如没有詹姆斯·卡梅隆的终结者电影中闪闪发光的红眼杀人机器人的静止图像，任何关于 AI 惊惧的报纸报导都是不完整的。  

这个神话的假定进化意图是鼓励咱们仔细考虑新技能的潜在危险——究竟，火的确能够用来焚毁整个城市。但正如火也是现代文明的根底，在冰冷和充溢歹意的国际中让咱们坚持温温暖安全相同，这个神话疏忽了大多数 - 悉数？– 新技能，在实践中激起了损坏性的心情，而不是理性的剖析。仅仅由于前现代人像这样吓坏了并不意味着咱们有必要这样做；咱们能够改用理性。 

我的观念是，人工智能将决议实在杀死人类的主意是一个严峻的类别过错。人工智能不是经过数十亿年的进化而预备参加适者生计之战的生物——就像动物和咱们相同。它是数学-代码-计算机，由人制作，由人具有，由人运用，由人操控。它会在某个时分开展出自己的思维并决议它有导致自己企图杀死人类的动机是一种迷信。 

简而言之，AI 不想，它没有方针，它不想杀死人类，由于它没有生命。人工智能是一台机器——不会比你的烤面包机更有生命地活泼起来。 

现在，很显着，人工智能会消灭人类的实在信徒——浸信会——他们的可怕正告忽然取得了许多的媒体报导，其间一些人宣称现已研讨这个论题几十年了，并说他们现在惧怕自己的日子他们所学的思维。其间一些实在的信徒乃至是该技能的实践立异者。这些参加者建议对 AI 施行各种古怪和极点的约束，从制止 AI 开发，一向到对数据中心的军事空袭和核战役。他们争辩论，由于像我这样的人不能扫除人工智能未来的灾祸性成果，咱们有必要采纳防备措施为了避免潜在的生计危险，或许需求许多的身体暴力和逝世的态度。 

我的答复是他们的态度对错科学的——什么是可查验的假定？什么会证伪这个假定？咱们怎样知道咱们何时进入危险区域？除了“你无法证明它不会产生！”之外，这些问题根本上没有答案。事实上，这些浸信会的态度是如此不科学和 极点——一个关于数学和代码的阴谋论——并且现已在呼吁身体暴力，以致于我会做一些我一般不会做的作业，并质疑他们的动机。 

具体来说，我以为有以下三点： 

首要，回想一下约翰·冯·诺伊曼回应罗伯特·奥本海默出名的关于他在制作核武器方面的效果——这有助于完毕第二次国际大战并避免第三次国际大战——的回应是，“有些人供认有罪以宣称自己的罪过。” 一个人能够在不显得过于自傲的状况下宣称自己作业的重要性是最引人留意图办法是什么？这解说了实践上正在构建和赞助 AI 的浸信会的言行之间的不匹配——留意他们的举动，而不是他们的话。（杜鲁门在与奥本海默会晤后愈加严峻： “别再让那个爱哭鬼进来了。” “Don’t let that crybaby in here again.”）)

其次，一些浸信会实践上是走私者。有一整套“AI安全专家”、“AI品德学家”、“AI危险研讨员”的作业。他们被付钱是注定要失利的，他们的陈说应该得到恰当的处理。 

第三，加利福尼亚以数以千计的异教崇奉Cults而出名，从 EST 到公民圣殿教，从天堂之门到曼森宗族。这些集体中有许多（虽然不是悉数）是无害的，乃至或许为那些在其间找到归宿的异化者服务。但有些的确十分危险，众所周知，邪教很难跨过终究导致暴力和逝世的边界。

湾区内的每个人都清楚但湾区外或许并非如此的实践是，“AI 危险”现已开展成为一种异教，它忽然呈现在全球媒体重视和群众对话的日光下。这种异教不只招引了边际人物，还招引了一些实在的作业专家和不少赋有的捐助者——包含直到最近的Sam Bankman-Fried （FTX联合创始人）。它开展出一整套异教行为和崇奉。

这种异教便是为什么有一组 AI 危险末日论者听起来如此极点的原因——并不是说他们实践上具有使他们的极点主义合乎逻辑的隐秘常识，而是他们现已把自己鞭打到疯狂中并且真的……极点极点。

......

不要误解我的意思，异教很风趣，他们的书面资料一般赋有构思和引人入胜，并且他们的成员在晚宴和电视上都很活泼。但他们的极点崇奉不该该决议法令和社会的未来——显着也不是未来。 

AI 危险 #2：AI 会销毁咱们的社会吗？ 

第二个广泛评论的 AI 危险是 AI 会经过产生如此“有害”的输出来损坏咱们的社会，运用这种末日消灭者的术语，对人类构成深远的损害，即便咱们不是字面上的杀了。 

简略版别：假如杀人机器人没有捉住咱们，仇视言辞和过错信息就会。 

这是一个相对较新的末日忧虑，它从我上面描绘的“AI 危险”运动平分支出来并在某种程度上接管了它。事实上，人工智能危险的术语最近从“人工智能安全”——忧虑人工智能会实在杀死咱们的人运用的术语——变成了“人工智能对齐Alignment”——忧虑社会“损害”的人运用的术语。开端的 AI 安全人士对这种改变感到懊丧，虽然他们不知道怎样将其放回原处——他们现在建议将实践，该主题尚未被广泛选用但至少是清楚的。 

AI 社会危险声明的实质是它自己的术语“AI 对齐Alignment”。对齐什么？ 人类价值观。 谁的人文价值观念？啊，这便是作业变得扎手的当地。 

可巧的是，我曾在相似的状况下坐在前排——交际媒体“信赖与安全”战役。现在很显着，交际媒体服务多年来一向承受着来自政府和活动家的巨大压力，要求制止、约束、检查和以其他办法约束规划广泛的内容。对“仇视言辞”（及其数学对应物“算法成见”）和“过错信息”的相同忧虑正从交际媒体语境直接转移到“人工智能对齐”的新范畴。  

我从交际媒体大战中学到的重要常识是： 

一方面，没有*的言辞自在态度。首要，包含美国在内的每个国家都至少将某些内容定为不合法 。其次，有某些类型的内容，例如儿童色情和鼓动实践国际中的暴力，简直每个社会都简直遍及赞同制止拜访这些内容——不管合法与否。因而，任何促进或生成内容（语音）的技能渠道都会遭到一些约束。 

另一方面，滑坡并不是过错，而是必定。一旦约束极点可怕的内容的结构到位——例如，针对仇视言辞，一个特定的损伤性词语，或针对过错信息，显着是虚伪的声明，如“教皇已死”——规划广泛的政府组织 “和维权” 人士压力集体和 非政府实体将开端举动，并要求对他们以为对社会和/或他们自己的个人偏好构成要挟的任何言辞进行更严厉的检查和约束。他们将以光秃秃的重罪办法做到这一点 ——这个循环在实践中显着能够永久运转，在咱们精英权利结构中装置的独裁大厅监督器的热心支撑下。这现已在交际媒体上撒播了十年，并且除了某些例外状况外，一向都在变得愈加疯狂。 

这便是现在环绕“AI 对齐”构成的动态。它的支撑者宣称有才智来规划 AI 生成的对社会有利的言辞和思维，并制止 AI 生成的对社会有害的言辞和思维。它的对立者宣称，思维差人是惊人的高傲和专横——并且往往是彻里彻外的违法，至少在美国是这样——事实上，他们正在寻求成为一种新式的政府-企业-学术交融的独裁言辞专政——直接到乔治·奥威尔的1984 。

由于“信赖与安全”和“人工智能对其”的支撑者集合在全球人口中十分小的一部分，这是美国滨海精英的特征——其间包含许多在科技作业作业和编撰科技作业的人——许多我的读者会发现自己预备争辩论需求对 AI 输出进行严厉约束以避免损坏社会。我现在不会企图压服你，我仅仅简略地说，这是需求的实质，国际上大多数人既不赞同你的意识形态，也不期望看到你取胜。

假如你不赞同经过不断强化的语音代码强加给交际媒体和人工智能的主流利基品德，你还应该意识到，关于答应人工智能说/生成什么的奋斗将愈加重要 –许多- 而不是环绕交际媒体检查准则的奋斗。人工智能极有或许成为国际万物的操控层。它怎样被答应运作或许比其他任何作业都更重要。你应该知道一小群孤立的党派社会工程师怎样在陈旧的宣称他们正在维护你的维护下企图确认这一点。 

总归，不要让思维差人镇压AI。 

AI 危险 #3：AI 会抢走咱们悉数的作业吗？

自机器织机等机器开端呈现以来，数百年来，人们对因机械化、自动化、计算机化或人工智能而导致赋闲的惊骇一向是一种重复呈现的惊惧。虽然在前史上每一项新的首要技能都以更高的薪酬带来了更多的作业，但每一波惊惧都伴跟着“这次不同”的说法——这是它终究会产生的时刻，这是终究会产生的技能对人类劳作进行锤击。可是，它从未产生过。 

咱们最近阅历了两次这样的技能驱动的赋闲惊惧周期 ——2000 时代的外包惊惧和2010 时代的自动化惊惧。虽然在曩昔的几十年里，许多会说话的人、专家，乃至科技作业的高管都在敲桌子说大规划赋闲火烧眉毛，但到 2019 年末——就在 COVID 迸发之前——国际上的作业岗位比前史上任何时分都多，薪酬更高。

不过这个过错的主意是不会死的。

公然，它回来了。

这一次，咱们总算具有了将替代悉数作业并使人类工人变得剩余的技能—— 实在的人工智能。这一次前史必定不会重演，人工智能将导致大规划赋闲——而不是经济、作业和薪酬的快速添加——对吧？ 

不，这不会产生——事实上，假如答应人工智能在整个经济中开展和分散，或许会导致有史以来最剧烈和持续的经济昌盛，相应地创纪录的作业和薪酬添加——与惊骇彻底相反。 

自动化摧残作业的厄运论者不断犯的中心过错被称劳作力过错Lump Of Labor Fallacy。这种过错是过错的观念，即在任何给定时刻经济中都有固定数量的劳作要做，机器做或人做——假如机器做，人就没有作业可做...

劳作块过错天然源于天真的直觉，但天真的直觉在这儿是过错的。当技能运用于出产时，咱们会进步出产率——经过削减投入来添加产出。效果是产品和服务的价格下降。跟着产品和服务价格的下降，咱们为它们付出的费用削减，这意味着咱们现在有额定的消费才能来购买其他东西。这添加了经济中的需求，然后推进了新出产的发明——包含新产品和新工业， 然后为那些在曾经的作业中被机器替代的人发明新的作业时机。其效果是一个更大的经济体，具有更高的物质昌盛、更多的工业、更多的产品和更多的作业时机。 

但好消息并不止于此。咱们也能够取得更高的薪酬。这是由于，在个别工人的层面上，商场将酬劳设定为的函数。技能注入型企业的职工比传统企业的职工更有用率。雇首要么付出该工人更多的钱，由于他现在的作业功率更高，要么另一个雇主朴实出于本身利益。效果是，引入一个作业的技能一般不只会添加该作业的作业人数，还会进步薪酬。 

总而言之，技能使人们能够进步作业功率。这导致现有产品和服务的价格下降，薪酬上涨。这反过来又会促进经济添加和作业添加，一起推进发明新的作业时机和新的工业。假如答应商场经济正常运转，假如答应技能自在引入，这是一个永无止境的永久上升循环。由于，正如米尔顿·弗里德曼 (Milton Friedman) 观察到的那样，“人类的需求是无止境的”——咱们想要的总是比咱们具有的更多。一个技能注入的商场经济是咱们更接近于供给每个人都能够幻想到的悉数的办法，但从来没有彻底完成。这便是为什么技能不会并且永久不会损坏作业。 

关于那些没有触摸过它们的人来说，这些主意是如此令人兴奋，你或许需求一些时刻来了解它们。但我立誓它们不是我假造的——事实上你能够在规范的经济学教科书中读到悉数关于它们的内容。我引荐Henry Hazlitt 的《经济学一课》中的机械咒骂The Curse of Machinery一章，以及 Frederic Bastiat 的挖苦蜡烛制作者请愿书，由于它与照明作业的不公正竞赛而遮盖了太阳，这儿为咱们的时代进行了现代化改造。 

但这次不相同，你在想。 这一次，有了人工智能，咱们具有了能够替代悉数人类劳作的技能。 

可是，运用我上面描绘的准则，想一想从字面上看，悉数现有的人类劳作都将被机器替代意味着什么。 

这将意味着经济出产力添加的起飞速度*是惊人的，远远超越任何前史先例。现有产品和服务的价格将全面下降至简直为零。顾客福利将飙升。顾客的消费才能将飙升。经济中的新需求将会迸发。企业家们将发明出令人目不暇接的新工业、新产品和新服务，并尽或许快地雇佣尽或许多的人和人工智能来满意悉数新需求。 

假定人工智能再次替代劳作力——循环将重复，推进顾客福利、经济添加以及作业和薪酬添加更高。这将是一个直线上升的物质乌托邦，这是亚当·斯密或卡尔·马克思都不敢愿望的。  

咱们将会变得如此走运。 

AI 危险 #4：AI 会导致严峻的不平等吗？ 

提到卡尔·马克思，对人工智能抢走作业的忧虑直接引出了下一个宣称的人工智能危险，那便是，马克思，假定人工智能的确抢走了悉数的作业，不管是好是坏。这会不会导致严峻的财富不平等，由于人工智能的悉数者取得了悉数的经济报答而普通人一无所得？ 

事实上，这是马克思主义的一个中心建议，即出产资料的悉数者——资产阶级——将不可避免地从从事实践作业的人——无产阶级那里盗取悉数社会财富。

这个理论的缺点在于，作为一项技能的悉数者，将它留给自己并不契合你自己的利益——事实上恰恰相反，将它卖给尽或许多的客户契合你自己的利益。国际上任何产品*的商场是整个国际，咱们 80 亿人。所以在实践中，每一项新技能——即便是那些开端出售给高薪大公司或殷实顾客的淡薄空气的技能——都会敏捷分散，直到它抵达尽或许大的群众商场，终究抵达地球上的每个人的手中。

这方面的典型比如是埃隆·马斯克 (Elon Musk) 在 2006 年为特斯拉拟定的所谓 “隐秘方案” —他天可是然地揭露了这一方案： 

第 1 步，打造 [贵重] 跑车

第 2 步，用这笔钱制作一辆负担得起的轿车 

第 3 步，用这笔钱制作一辆更实惠的轿车 

......当然这正是他所做的，效果成为国际上最赋有的人。 

终究一点是要害。假如埃隆今日只卖轿车给有钱人，他会更赋有吗？不，假如他只为自己制作轿车，他会比这更赋有吗？当然不是。不，他经过向国际这个*的或许商场出售来*化自己的赢利。 

简而言之，每个人都得到了东西——正如咱们在曩昔看到的，不只有轿车，还有电力、收音机、电脑、互联网、手机和搜索引擎。此类技能的制作商十分活泼地下降价格，直到地球上的每个人都能负担得起。这正是 AI 中现已产生的作业——这便是为什么你不只能够低成本运用*进的生成 AI，乃至能够免费运用 Microsoft Bing 和 Google Bard 的办法——并且这将持续产生。不是由于这些供货商愚笨或大方，而是由于他们贪婪——他们想要*化他们的商场规划，然后*化他们的赢利。 

因而，产生的状况与技能推进财富集中化相反——技能的个人客户，终究包含地球上的每个人，反而被赋予了权利，并取得了大部分产生的价值。与现有技能相同，构建人工智能的公司——假定它们有必要在自在商场中运作——将剧烈竞赛以完成这一方针。 

这并不是说不平等不是咱们社会的问题。是的，它不是由技能驱动，而是被相反的驱动，由对新技能最有抵抗力的经济部门驱动，这些经济部门有最多的政府干涉来阻挠选用像人工智能这样的新技能——特别是住宅、教育和医疗保健。AI 和不平等的实践危险不是 AI 会导致更多的不平等，而是咱们不答应 AI 被用来削减不平等。 

AI 危险 #5：AI 会导致坏人做坏事吗？ 

到现在为止，我现已解说了为什么五个最常被提及的 AI 危险中有四个实践上并不实在——AI 不会复生并杀死咱们，AI 不会消灭咱们的社会，AI 不会导致大规划赋闲，AI 不会导致不平等的损坏性添加，但现在让咱们谈谈第五点，我十分赞同的一点：人工智能将使坏人更简略做坏事。 

从某种意义上说，这是一个同义重复。技能是一种东西。东西，从火和石头开端，能够用来做功德——煮饭和盖房子——也能够用来做坏事——烧人和打人。任何技能都能够用于功德或坏事。很公正。毫无疑问，人工智能将使罪犯、惊骇分子和仇视政府更简略做坏事。 

这导致一些人提议，好吧，既然如此，咱们就不要冒险了，让咱们在这种状况产生之前制止人工智能吧。不幸的是，人工智能并不是像钚那样难以取得的艰深物理资料。恰恰相反，它是国际上最简略取得的资料——数学和代码。 

你能够从数以千计的免费在线课程、书本、论文和视频中学习怎样构建 AI，并且优异的开源完成每天都在激增。人工智能就像空气——它将无处不在。拘捕如此严厉的人所需的极权主义压榨程度——一个监督和操控悉数计算机的国际政府？黑色直升机中的长靴坏人攫取流氓 GPU？– 咱们不会有一个社会需求维护。 

因而，有两种十分直接的办法能够处理坏人用人工智能做坏事的危险，而这些正是咱们应该重视的。 

首要，咱们有法令将任何人用人工智能做的大多数坏事定为违法。侵略五角大楼？那是一种违法。从银行偷钱？那是一种违法。制作生化武器？那是一种违法。施行惊骇行为？那是一种违法。咱们能够简略地集中精力在量力而行的状况下避免这些罪过，在咱们不能的状况下申述它们。咱们乃至不需求新的法令——我不知道有哪一个现已被提议的 AI 的实践不良运用还不对错法的。假如发现新的不良用处，咱们将制止该用处。 

可是你会留意到我在那里漏掉了什么——我说咱们应该首要重视在人工智能帮忙的违法产生之前防备它们——这样的防备莫非不意味着制止人工智能吗？好吧，还有另一种办法能够避免此类行为，那便是运用 AI 作为防护东西，使人工智能在有坏方针的坏人手中变得危险的才能，在有好方针的好人手中变得强壮——特别是那些作业是避免坏事产生的好人。 

例如，假如你忧虑 AI 会生成假人和假视频，那么答案便是构建新体系，让人们能够经过加密签名验证自己和实在内容。在 AI 呈现之前就现已存在了实在和虚伪内容的数字创建和更改；答案不是制止文字处理器和 Photoshop——或人工智能——而是运用技能来构建一个实在处理问题的体系。 

因而，其次，让咱们做出严重尽力，将 AI 用于好的、合法的防护意图。让咱们将 AI 用于网络防护、生物防护、追捕惊骇分子，以及咱们为维护咱们自己、咱们的社区和咱们国家的安全所做的悉数。 

当然，政府表里现已有许多聪明人在做这件事——但假如咱们把现在专心于制止 AI 的白费远景的悉数尽力和脑力用于运用 AI 来避免坏人做坏事，我以为毫无疑问，一个充溢人工智能的国际将比咱们今日日子的国际安全得多。 

......

为了抵消坏人用人工智能做坏事的危险，政府与私营部门协作应活泼参加每个潜在危险范畴，以运用人工智能*极限地进步社会的防护才能。这不该仅限于人工智能带来的危险，还应包含营养不良、疾病和气候等更遍及的问题。人工智能能够成为处理问题的强壮东西，咱们应该拥抱它。 

......

这便是咱们运用 AI 解救国际的办法。 

是时分建设了。It’s time to build.

我以两个简略的陈说完毕本文。 

人工智能的开展始于 1940 时代，与计算机的发明一起进行。*篇关于神经网络的科学论文——咱们今日具有的人工智能的架构——1943年宣布。在曩昔的 80 年里，整整几代人工智能科学家出世、上学、作业，在许多状况下都没有看到咱们现在得到的报答就逝世了。他们都是传奇，每一个人。 

今日，越来越多的工程师——其间许多人很年青，或许有祖爸爸妈妈乃至曾祖爸爸妈妈参加了 AI 背面思维的发明——正在尽力使 AI 成为实践，对立并分布惊骇和末日论的墙企图把他们描绘成莽撞的恶棍。我不信赖他们是莽撞的或恶棍。他们都是英豪，每一个人。我和我的公司很快乐能尽或许多地支撑他们，咱们将 100% 支撑他们和他们的作业。