JOANNE MYERS：大家早上好。我是公共事务项目主任Joanne Myers，我代表卡内基理事会感谢大家与我们一起开始新的一天。
很高兴欢迎着名的国际演员Yuval Noah Harari登上这个领奖台。他是备受好评的“纽约时报”畅销书“Sapiens：人类简史”的作者。这本书已被翻译成40种语言 - 这是一项成就。在这个激动人心的叙述中，他向我们讲述了人类，统治地球的方式，以及我们的价值观从最早开始以来一直在不断变化。 Sapiens提供了一种非常有创意的方式来思考我们的集体过去。他早期作品的粉丝 - 还有很多人 - 一直焦急地等待续集。他们的耐心得到了回报。 Homo Deus：明日简史是他最新作品的标题，它同样具有挑衅性和吸引力。哈拉里教授并没有让人失望。
然而这一次，他写的并不是我们的过去，但是人类的未来是占据我们天才演说家心灵的。在Homo Deus教授中，Harari教授撰写了一个以数据为中心的世界，其中计算机，机器人和人工智能（AI）占据了至高无上的地位。在扩大我们的视野时，他鼓励我们以富有想象力的方式思考接下来会发生什么，并表明当我们进入这个新世界时，有可能在一个可以创造新超级种姓的世界中 - 我们不再能够控制的地方，智人变身为人类，人类已不再相关，我们已经过时了。科幻小说？不必要。正如Homo Deus暗示的那样，旅程已经开始。
在扩展我们进化的下一阶段，即项目的梦想和噩梦将塑造21世纪，根本的伦理问题是我们是否有权利，或者我们是否有权改变人性;我们如何控制复杂的情报系统;我们如何防范意外后果？
关于“我们从哪里去？”的问题。我想起了苏斯博士的一本标志性智慧书中的一句话，我想与你分享。在哦，你会去的地方，他写道：“你的脑子里有你的大脑。你的脚有你的脚。你可以在你选择的任何方向引导自己。你是独自的，你知道你是什么知道。而你就是那个决定去哪里的人。“
有关这方面的更多信息，请与我一起欢迎明天的典型思想领袖哈拉里教授。
感谢您加入我们。
备注
YUVAL NOAH HARARI：谢谢。大家好。欢迎来到这个关于人类未来的谈话，我们将在大约30分钟内试着报道并留出一些时间来解答你的问题。
我真正想要讨论的是历史上的下一次重大革命。当然，在过去的几千年里，有许多不同的革命。我们在技术，经济，社会和政治方面都有过革命。但有一件事情仍然存在于数千年，甚至数万年，而这本身就是人类。
自石器时代以来，人类并没有真正改变。我们仍然是我们在罗马帝国，圣经时代或石器时代的人;我们仍然拥有与在拉斯科和阿尔塔米拉绘制洞穴艺术的人相同的身体，同样的大脑和相同的思想。
下一次革命将改变这种状况。 21世纪真正的大革命不会出现在我们的工具，车辆，社会或经济中。真正的大革命将在我们自己，在人性中。 21世纪经济的主要产品将是身体，大脑和思想。我们现在正在学习如何破解计算机，但如何破解有机体，特别是如何破解人类;我们正在学习如何设计它们以及如何制造它们。
所以很可能在一两个世纪之内，我们已经知道了几千年就会消失 - 不是因为，就像在一些好莱坞科幻电影中一样，机器人会来杀我们，而是因为我们将使用技术来升级自己 - 至少我们中的一些人 - 不同的东西，与我们相比，与尼安德特人不同的东西。医学正在转变，或将转变，从治愈病人到提升健康状况。你可以说，人类真正伟大的项目将是开始操纵或控制我们内心的世界。
几千年来，人类一直在控制着我们以外的世界 - 控制着动物，森林和河流 - 但对我们内部世界的控制却很少。我们知道如何阻止河流流动;我们不知道如何阻止身体老化。我们知道如果它们在我们的耳朵里嗡嗡作响并打断我们的睡眠，就会杀死蚊子;我们不知道如何在我们自己的脑海中停止嗡嗡的思绪，打断我们的睡眠 - 你去睡觉，你想要入睡，突然想到了一个想法。该怎么办？你不知道。你可以杀死它不是蚊子。
这将在21世纪发生变化。我们将尝试获得与外界相同的控制权。我们将努力获得对我们内部世界的同样控制。如果这真的成功了，那将不仅仅是历史上最伟大的革命。从生命的一开始，它实际上将是生物学上最伟大的革命。
据我们所知，生命在大约40亿年前首次出现在地球上，并且自从其出现以来，生活的基本规律没有太大变化。是的，你拥有所有的恐龙，所有的哺乳动物以及所有这些东西，但生命游戏的基本规则在40亿年内根本没有变化。 40亿年，你有自然选择。所有的东西 - 恐龙，变形虫，椰子和人类 - 通过自然选择进化而来，并且40亿年以来所有的生命都局限于有机领域。再说一次，如果你是霸王龙或番茄，这无关紧要;你是由有机化合物制成的。
在下一个世纪，人类可能首先用智能设计取代自然选择作为生命进化的基本原则。不是云层之上某些神的智能设计，但我们的智能设计将是生命进化的主要动力。
其次，我们可以在40亿年的有机物进化后获得创造第一个无机生命形态的能力。如果这成功了，那么这真的是人生一开始以来最伟大的革命。
当然，这有很多危险。一个危险是，我们将向我们内心的世界做我们对我们之外的世界所做的事情，这不是很好的事情。是的，几千年来人类已经控制了外面的世界，动物，森林和河流;但是他们并没有真正理解生态系统的复杂性，他们对他们的生活方式也不是很负责，这就是为什么现在生态系统处于崩溃的边缘。我们使用我们的控制来完全破坏生态系统的稳定，使其完全不平衡，主要是由于无知。
我们也非常不了解我们内心的世界。我们对身体和大脑的复杂性知之甚少，但最重要的是人类思维的复杂性。我们并不真正了解它的功能和保持平衡的原因。危险的是，我们将以一种完全破坏我们内部生态系统的方式开始操纵我们内部的世界，我们可能面临一种类似于我们今天面临的外部生态灾难的内部生态灾难。
另一个危险是社会层面。由于这些新技术，我们最终可能会成为人类历史上最不平等的社会，因为有史以来第一次将经济不平等转化为生物不平等。几千年来，富人和穷人，贵族和平民之间存在差异，但他们只是经济，法律和政治。国王可能已经想到他们比其他人更优越，他们更有能力，他们更有创造力，他们更勇敢，无论如何，这就是为什么他们是国王和贵族。但事实并非如此。国王和农民之间的能力没有真正的区别。
在21世纪，这可能会改变。使用新技术，基本上可以将人类分裂为生物种姓。一旦你打开这样的差距，几乎不可能关闭它。
另一个相关的危险是，即使没有生物工程和类似的东西，我们也会看到一个极端不平等的社会，因为精英和国家失去了兴趣，失去了投资于群众的健康，教育和福利的动力。 19世纪和20世纪是群众的年龄。群众是政治和社会的核心力量。
几乎所有发达国家，无论政治制度如何，都在群众的健康，教育和福利方面投入了大量资金。甚至像纳粹德国这样的独裁政权，或者像苏联这样的独裁国家，为大众建立了大规模的教育，福利和健康体系 - 医院，学校，教师和护士，疫苗接种，污水系统等等。他们为什么这么做？不是因为斯大林和希特勒是非常善良的人，而是因为他们知道他们需要群众。希特勒和纳粹非常清楚，如果他们希望德国成为一个拥有强大军队和强大经济的强大国家，他们需要数百万贫穷的德国人作为军队中的士兵以及工厂和办公室的工人，这是为什么他们有很好的动力去投资他们的教育和健康。
但我们可能会离开群众的时代。我们可能正在进入一个新的时代，群众对任何事情都没有用处。他们将从工人阶级转变为无用的阶级。
在军队中它已经发生了。在历史上，军队往往比民用经济领先几十年。如果你今天看看军队，你会发现过渡已经发生了。在20世纪，世界上最好的军队依靠招募数百万普通人作为军队中的普通士兵。
但是今天世界上最好的军队依赖的人越来越少，这些人不是普通的普通士兵。他们往往是高度专业的士兵，所有精英特种部队和超级战士以及军队越来越依赖于无人机，网络战等类似的复杂自主技术。所以在军事领域，大多数人已经在2017年没用了。这与他们无关;他们不需要建立一支强大的军队。
民用经济也可能发生同样的事情。我们越来越多地谈论人工智能和机器学习的危险，这些危险将数亿甚至数十亿人赶出就业市场。 10年前的自动驾驶汽车听起来像完整的科幻小说，今天唯一的争论是，我们是否需要5年，10年或15年，直到我们看到越来越多的自动驾驶车辆在路上，他们将推动所有的出租车司机，卡车司机和公共汽车司机都离开就业市场。你不需要这些工作。
在医学等其他领域也可能发生同样的事情。计算机和人工智能在竞争，甚至超越人类诊断疾病和推荐治疗方面变得越来越好，这是大多数医生所做的。一些医生可能总会有工作，但绝大多数医生可能都没有。
就像在军队中一样，你不再需要数百万的地理标志;你需要少量的特种部队。所以也许在医学上你不需要数百万的全科医生;你需要一些精英特种部队来研究最新的癌症治疗方法，绝大多数人诊断和推荐治疗工作都是由非医生，AI医生完成的。
当然可能会出现新的工作。人们说，“好吧，所以你不需要卡车司机，你不需要普通的家庭医生，但是会有很多新的工作，比如软件工程。谁会为所有这些新的人工智能程序编程呢？那里将会有很多工作来设计虚拟世界和类似的东西。“这是一种可能的情况。
这种情况的一个问题是，随着AI变得越来越好，我们实际上无法保证甚至编程软件都是人类比计算机做得更好的东西。问题不在于2050年有新工作;问题是人类做得更好的新工作。只是拥有计算机做得更好的新工作对就业市场而言无济于事。
另一个问题是人们将不得不一次又一次地重塑自己以保持相关性，以便留在就业市场。这可能并不容易。想想失业的出租车司机或50岁的沃尔玛失业的收银员，他们将自己的工作丢失到一台新机器，新的人工智能。在50岁时重塑自己作为软件工程师将是非常困难的。
回顾历史，人们不断将21世纪自动化和失业的威胁与20世纪发生的事情进行比较。在20世纪，您看到了农业自动化，因此许多失业的农场工人转向工业，然后当自动化进入行业时，他们转而在沃尔玛担任收银员。但在那些情况下，发生的事情是人们失去了低技能工作并转移到其他低技能工作岗位。从农业工人转到在底特律的一些汽车工厂工作，你从一个低技能工作转到另一个低技能工作。当你在底特律汽车工厂失业并在沃尔玛找到一份新工作时，你再次从低技能工作转到低技能工作。
但是，如果下一阶段意味着我在45岁时失去了作为沃尔玛收银员的工作，现在谷歌设计虚拟世界的软件工程师开放，这比从汽车工厂搬到沃尔玛要困难得多。很可能即使有新工作，大多数失业群众也无法进行过渡。
这也是一个关于年轻人的大问题。没有人真正知道20或30年就业市场会是什么样子。这是历史上第一次没有人知道30年后人们需要什么样的工作和技能，这意味着我们完全不知道在学校教什么孩子。他们所学到的大部分内容将与2050年的就业市场和社会要求无关。相反，我们只是不知道要教他们什么。
当然，最严重的问题不是发达国家，而是发展中国家。如果你想到一个国家，我不知道，瑞典 - 现在在美国引起了很多关注 - 我对瑞典人并不那么担心。即使在瑞典失去了数百万个工作岗位，我认为，由于福利国家的传统等等，瑞典政府将提高对大公司的税收，以及普遍的基本收入或类似的东西。我想，瑞典人会没事的。
真正重要的问题是尼日利亚人，孟加拉人和巴西人会发生什么。如果孟加拉国的数百万纺织工人因自动化而失去工作，他们将做什么？我们今天不是教孟加拉国的孩子成为软件工程师。他们将在20年或30年内做些什么，你真的认为美国政府会在加利福尼亚对谷歌和亚马逊征税，并用这笔钱向失业的孟加拉国人支付基本收入吗？如果你相信这一点，你也可以相信圣诞老人和复活节兔子会来照顾孟加拉国人。我不认为这是一个现实的解决方案。没有人知道解决方案是什么。
因此，我们可能在21世纪面临一种全新的不平等，这种不平等是我们人类历史上从未见过的 - 一方面是由生物工程和脑机接口以及类似的东西增强的新升级的超人精英的出现，而另一方面，一个新的大规模无用的阶级，一个没有军事或经济用途的阶级，因此也没有政治权力。
最后，存在权威的政治问题。我们在21世纪可能看到的，与我刚刚讨论的过程一起，是权力从人类到算法的根本转变。
历史上曾有过一些权威性的转变。数百年前，在欧洲中世纪说，权威从云中，从上帝而来。你想知道谁应该统治国家或做什么，无论是在国家政策方面还是在你的个人生活方面，回答这些问题的权力来自上帝。所以你问上帝，如果你与上帝没有直接联系，你就读圣经，或者你问一位知道上帝想要什么的牧师或拉比，这就是权威的来源。
然后在过去的两三个世纪里出现了一种新的世界观，一种新的意识形态，称为“人文主义”，人文主义说：“不，权威的来源不在云层之上。权威的源泉在你的内心。人类的感情和人类自由选择，这些是权威的最终来源。你想知道谁应该统治国家，你不读圣经，你不问教皇，你不要问首席拉比;你去每个人，每个人，并问，'你有什么感受？你怎么想？'在此基础上，我们知道谁应该统治这个国家。“
同样在经济中，最高权威是什么？在经济中，它是客户 - “客户永远是对的。”你想知道一辆车是好还是不好，你问谁？你问客户。如果客户喜欢它，如果顾客购买它，这意味着这是一辆好车。在现代人文经济中，没有比客户更高的权威。
在道德规范中是一回事 - 什么是好的，什么是坏的？所以在中世纪，这是上帝所说的;这就是圣经所说的。例如，如果你考虑同性恋，为什么它被认为是一个可怕的罪？因为上帝这么说，因为圣经这么说，而这些是道德领域的最高权威。
然后是人文主义，它说，“不，最高权威是人类的感情，是否会让人感觉好坏。如果两个男人相爱并且不伤害别人，他们两个都对他们的关系感到非常满意什么可能是错的呢？我们不关心圣经中的内容或教皇所说的内容。我们只关心人类的感情。“
因此，这是人道主义的伦理革命，将人类的感情置于道德金字塔的顶端。这也是为什么人文主义教育的主要目标与中世纪的教育有很大不同。在中世纪，教育的主要目的是教导人们上帝想要什么，圣经所说的，或者过去伟大的，聪明的人所写的。
人文教育的主要目的是教人们自己思考。你去了一个人文主义教育机构 - 无论是幼儿园还是大学 - 你问老师，教授，“你试着教给孩子们什么，学生们？”教授会说，“哦，我试着教历史或经济学或物理学，但最重要的是我试着教他们自己思考。”因为这是最高权威：你怎么看？你感觉怎么样？这是人文主义，是过去两三个世纪权威的重大革命。
现在我们正处于一场新革命的边缘。权威机构正在转向云端，微软云端，谷歌云端，亚马逊云端。数据和数据处理是新的权威来源。 “不要听圣经而不听你的感受。听听亚马逊，听取谷歌的意见;他们知道你的感受，他们比你了解自己更了解你，他们可以代表你做出更好的决定。您可以。”
这个新世界观的中心思想 - 你可以称之为“数据主义”，因为它在数据中投入权威 - 给予足够的数据，特别是关于一个人的生物识别数据，并且给予足够的计算能力，谷歌或Facebook可以创建一个比你更了解你的算法认识你自己。
它在实践中如何运作？让我们举一个例子吧，它不会过于抽象。让我们说你想买一本书 - 我在书业，所以它非常贴近我的心 - 你怎么选择买哪些书，要读哪些书？在中世纪，你去牧师，你去拉比，他们告诉你，“读圣经。这是世界上最好的书。所有答案都在那里。你不需要任何其他东西。”
然后是人文主义，它说：“是的，圣经，那里有一些不错的章节，但世界上还有许多其他的好书。不要让任何人告诉你要买什么书。你只要去”óand“顾客永远是对“书店”，你走在过道之间，你拿着这本书，你拿着那本书，你翻转，你看里面，你有一些直觉'啊，这是一个有趣的预订，“接受并阅读它”。你遵循自己的直觉和感受。
现在你上网到亚马逊虚拟书店，当你输入一个算法的那一刻弹出：“啊，我认识你。我一直在关注你，关注像你这样的数百万人，并根据我对你以前的一切了解喜欢和不喜欢，我建议你读这本书。你会发现它非常有趣。“但这实际上只是第一个婴儿步骤。
下一步，如果有人在这里阅读有关Kindle的书籍，那么你可能知道 - 你应该知道 - 当你读这本书时，这本书正在读你。历史上第一次有人阅读，而不是反过来。当你读一本关于Kindle的书时，Kindle会关注你，而Kindleó这意味着亚马逊知道你读的页面很慢，你读的页面很快，你在哪个页面上停止阅读这本书。基于此，亚马逊对您喜欢或不喜欢的内容有很好的了解。但它仍然非常原始。
今天在技术上可行的下一个阶段是将Kindle连接到已经存在的面部识别软件，然后Kindle知道你什么时候笑，什么时候哭，什么时候你很无聊，什么时候你生气。
最后一步，可能在五到十年内完成，是将Kindle连接到身体内部或体内的生物识别传感器，持续监测您的血压，心率，血糖水平和大脑活动。然后是Kindleó，这意味着亚马逊知道你在书中读到的每一句话的确切情感影响;你读了一句话，你的血压发生了什么。
这是亚马逊可能拥有的那种信息。当你完成这本书时，你会说你读过托尔斯泰的战争与和平 - 你已经忘记了大部分内容。但亚马逊永远不会忘记任何事情当你完成“战争与和平”时，亚马逊确切地知道你是谁，你的性格类型是什么，以及如何按下你的情感按钮。
根据这些信息，它不仅可以向您推荐书籍;它可以做更多壮观和令人恐惧的事情，比如向你推荐学习什么，约会对象或在选举中投票的人。
为了让权限从您转移到亚马逊算法，亚马逊算法不一定非常完美。它必须比普通人更好，这不是那么困难，因为人们在他们生命中最重要的决定中犯了可怕的错误。你决定学习什么，结婚对象，等等，10年后，“哦，不，这是一个如此愚蠢的决定。”因此亚马逊必须要比这更好，以便人们越来越信任它，并且有权从人类的感受和选择转向这些外部算法，这些算法不仅能理解我们的感受，还能理解为什么我们会感受到我们的感受。
你可以看到周围的这个过程开始发生。例如，你想从这里前往火车站，越来越多的人依靠谷歌地图告诉他们去哪里。为什么？因为经验经验。他们尝试了一下。你到达一个路口，你的直觉说“向右转”，但谷歌地图说：“不，不，不，左转。右边有交通堵塞。”你遵循自己的直觉，陷入交通堵塞。您按照Google地图即可准时到达目的地。所以你学习“更好地倾听谷歌而不是直觉。”到目前为止，有许多人完全不知道他们在哪里，如果他们的智能手机发生了什么事，以及如何到达任何地方，因为他们不再遵循他们的直觉;他们只关注Google地图告诉他们要做的事情。
在我们开始讨论几个问题之前的最后一条评论。重要的是要强调没有什么是真正确定的。我在本次演讲中概述的不是预测。没有人真正知道未来会是什么样子。它们是我们需要考虑的更多可能性，我们仍然可以对这些可能性做些什么。
技术永远不是确定性的;它给了我们选择。如果你再次回顾20世纪，20世纪的技术 - 电力，广播，电视等等 - 可以用来建立共产主义独裁政权，法西斯政权或自由民主政体。火车没告诉你怎么办他们;电没有带有关于如何处理它的政治手册。
你这里有一张非常着名的夜间东亚外太空照片。你在右下角看到的是韩国;你在左上角看到的是中国;在中间，它不是大海，而是朝鲜。这个黑洞就是朝鲜。现在为什么朝鲜黑暗而韩国充满光明呢？不是因为朝鲜人之前没有遇到过电 - 他们听说过它;他们对它有一些用处 - 但是他们选择使用与韩国人选择使用它的电力完全不同的东西。因此，相同的人，相同的地理，相同的气候，相同的历史，相同的技术，但不同的选择导致如此大的差异，你可以从外太空实际看到它。
它将与21世纪相同。生物工程和人工智能肯定会改变我们的世界，但我们仍然有一些选择。如果你不喜欢我在本次演讲中概述的一些未来可能性，你仍然可以做些什么。
谢谢。
问题：Bill Raiford。
德克萨斯州剑桥分析公司已经从事过您所描述的技能。据报道，去年夏天他们与Jared Kushner签约，并且他雇用了这些技能，据报道他们在2016年大选中提供了至关重要的区别。你熟悉那个故事吗？
YUVAL NOAH HARARI：我听说过，是的。
提问者[Bill Raiford]：你认为这是可信的吗？
YUVAL NOAH HARARI：是的，绝对会对所有这些产生政治影响。
再举一个假设的例子 - 我强调这是假设的;这不是阴谋论;这只是一个假设 - 原则上，比如在下次选举中，Facebook可以决定选举是否有意。我上周刚从Facebook上来。他们说他们没有兴趣这样做，他们没有这样做，但是 - 我再次强调它 - 如果他们愿意，他们可以。
众所周知，为了决定美国的选举，你基本上需要一些数据。您需要数据来了解哪些州正在摆动;你需要知道摇摆不定的国家谁是摇摆选民;最后，你需要知道我该怎么说才能在我的指导下摆动选民。所以基本上要决定美国的选举，你需要知道宾夕法尼亚州的10万人仍然没有下定决心，我需要对他们每个人说些什么 - 可能是不同的事情 - 为了让他们朝着我的方向摇摆。
谁拥有这些数据？ Facebook的。 Facebook知道 - 至少对于拥有Facebook帐户的人来说，这是人口中非常大的比例。 Facebook拥有这些数据。
它如何拥有数据，这可能是世界上最有价值的数据？因为我们免费赠送它以换取有趣的猫咪视频。我们向Facebook提供了世界上最重要的信息，这可能不一定那么糟糕。这取决于他们对数据的处理方式。
有点像他们说 - 我没有检查事实;这可能是一个神话，但它确实代表了一些实际的历史事件 - 整个曼哈顿岛被当地印第安部落出售给欧洲商人，用于购买一些纺织品和彩色珠子。它再次发生。我们正在销售世界上最有价值的东西 - 数据给一些商人以换取有趣的猫咪视频。
问题：我的名字是Larry Bridwell，我在佩斯大学教国际业务。
我一个月前读了你的书Sapiens，然后几周前我读了一本关于以色列，我的应许之地：以色列的胜利和悲剧的书。 [编者注：有关本书的更多信息，请查看作者Ari Shavit 2013年卡内基委员会的演讲。]
YUVAL NOAH HARARI：这是一本非常好的书。
提问者[拉里·布里德威尔]：我一直在想，哈拉里教授对于以色列所面临的所有历史力量对以色列未来的凄凉预测有何看法？所以我对你对他的预测的评估感兴趣。
YUVAL NOAH HARARI：我想说的是整个中东地区目前都在向下倾斜，而以色列 - 不管你喜欢与否 - 都是中东地区的一部分，并且是这个螺旋式下降的一部分。你看到在邻国发生的许多相同的现象，包括部落主义，宗教极端主义等等，也发生在以色列。
我不知道未来会是什么。我作为预报员的技能更多地属于长期趋势领域。这在某种程度上很有趣，但是对于真正重大的事情而不是对较小的事情做出预测会更容易。我可以预测，我认为人工智能将在21世纪从根本上改变就业市场。这是一个我愿意支持的预测。但是，未来10年中东的政治事件将会是什么，没有人有任何想法。
我只想说一件关于整个中东以及以色列的事情，整个地区都有再次错过火车的危险。在19世纪，工业革命由少数国家领导，如英国，德国和后来的美国。而中东和世界上许多其他地方都错过了火车，这就是为什么他们被压迫，占领和剥削了一百多年的原因。
他们为此哭泣，他们为此哭泣，现在他们再次这样做。火车再次即将离开火车站。这次不是蒸汽机和电力。这次是遗传学，人工智能和机器学习。你没有看到叙利亚，伊拉克，利比亚或埃及乘坐这列火车。如果他们错过了这列火车，他们可能会比他们错过19世纪的工业革命更受苦。
问题：嗨。我是马赫迪。我在IT（信息技术）工作。我是经理。
哈拉里教授，你在演讲中提到我们外面没有未来。你提到我们可能应该在内部集中注意力。下一步将是心理产品等产品。你认为这会导致心理工作将来会增加吗？
YUVAL NOAH HARARI：再次，将有新的工作。关键问题是人类是否能够比计算机做得更好。即使涉及到诸如情绪和情商之类的事情，AI也在追赶我们。例如，如果我想诊断你的情绪状况，我主要依靠你给我的外部信号。我首先依赖声乐和视觉线索。我听你说的话 - 不只是内容，更是你的声音。我看看你的面部表情和你的肢体语言，并在此基础上评估你当前的情绪和你的个性。
它基本上是识别模式。你认识到一个愤怒的人或一个快乐的人的模式，计算机正在非常善于识别这些语音和面部表情模式。但是他们可能会做一些人类无法做到的事情，也就是识别身体内部的模式。
我看不出你大脑里发生了什么，或者目前你的血压是什么。也许如果你脸红啊，好吧，所以我知道你的血压。但这非常粗糙。
使用生物识别传感器，人工智能可以确切地知道您的血压会发生什么，以及您大脑的哪些部位现在处于活动状态。基于此，AI可以更好地评估您的情绪状况，不仅比普通人更好，而且比一般的心理学家或治疗师要好得多。
在情绪市场中会有新的工作，但也许这些工作也会流向机器而不是人类。
问题：我叫George Below。我是一名企业家，很长一段时间以来我一直在思考很多相同的话题。谢谢你这个。
我担心的是 - 让我们使用它的军事历史方面。军队必须占领土地以最终留下并使其下面的人民受到影响。这仍然需要哨兵以及所有其他低级职责，以便当它不能保持控制时，人们可以实现控制的所有高科技。
那么问题是：我们是否只是去一个过大的门控社区而不是拥有国家，而不是让任何事情让我们对那些不幸有钱并且有联系的人有责任感也许有教育 - 或者至少是洞察力 - 从更大的意义上看你所描述的世界？这是否必须自动导致镇压？
你说“不”。但是我看着这个，我对自己说：“如果你要保持无政府状态或传统主义，宗教，部落主义等所有其他因素，那么你所描述的就是发生的世界，必须有一股力量来对付那些反应的人。“我想知道如何处理这类问题。
YUVAL NOAH HARARI：首先，这取决于我们做出的政治和道德选择。我们不必最终得到一个种姓世界，其中上层阶级居住在戒备森严的封闭社区内，你们压迫群众和事物。这只是一种可能性。
坏消息是，通过算法职业或人工智能职业来控制动荡群众可能比以往任何时候都容易。你不需要很多人来做那件事。
如果你想看到它的实际效果，你只需要去以色列，它现在在算法职业方面领先世界。我认为一年前以色列中央司令部的指挥官说 - 我也是以色列人 - “我们是占领世界的冠军。”
这不是一个众所周知的事实，但非常有趣的是，以色列的占领已经越来越多地转变为算法职业。它基于全面监控，它基于越来越复杂的算法，基本上遵循一切。无人机拍摄了一切。如果我在拉马拉接电话并打电话给希伯伦，那么有人正在接听电话并对其进行分析 - 这不是一个人性化的模式，模式，模式。
每天我都会离开自己的房子，一天又一天地去橄榄园浇水。然后有一天我做了不同的事情。 [发出声音]天空中的眼睛打开。有些东西打破了这种模式。这里发生了一些事情。这一切都是通过算法完成的。
如果你不能组织，就很难抵抗占领。并组织你需要沟通，所有沟通都在监视之下。组织起来非常困难。
最后一波骚乱被称为 - 如何将其翻译成英语 - “个人的起义”或类似的东西并非巧合，因为你无法在一个更大的群体中组织任何东西而不是个人。所以唯一的阻力就像有人在早上醒来，“我厌倦了它，”拿起剪刀，然后去刺伤一名士兵。因为如果你试图组织，[发出声音]他们会立即知道。有了这个，你不需要这么多士兵。
提问者[乔治以下]：但你仍然受到压迫。
YUVAL NOAH HARARI：绝对。我说坏消息是，使用所有这些新工具，您可以比以往更轻松，更便宜地占用和压制。
如果你想一想我之前讨论的内容，只要想想对朝鲜的影响，就像每个人都必须戴上手臂上的生物识别手镯一样。你进入一个房间，你看到金日成的照片，生物识别传感器监测你的血压会发生什么。如果有愤怒的迹象[拍手]，那就是你的结局。
问题：嗨。我是Edward Kabak。我也许是全国广告商协会，诗人和公共知识分子的内部法律顾问。
从Elon Musk的评论开始，几天前人们认为除非他们改变，否则人们只是人工猫用于人工智能，问题是：谁控制算法？我正在考虑像奥洛夫·约翰内森（Olof Johannesson）的书“大电脑的故事”（Tale of the Big Computer）这样的书籍，30-40年前的计算机最终将运行人类，以及像格雷格伊根（Greg Egan）的排列城市（Permutation City）这样的书籍，人们永远生活在软件中。谁将最终控制算法？计算机是否会有效地编写算法和人类只是执行它们而不是必须在真正的长期视图中控制它们？
YUVAL NOAH HARARI：从短期来看，人类很可能会保持控制，但从长远来看，算法可能变得如此复杂，以至于人类无法理解它们，权威将真正转变，而不是从群众转变为小人类精英，但即使从精英到算法。
像DeepMind，机器学习和神经网络这样的东西，现在已经成为软件世界中最热门的流行语，它们可以独立发展，可以从他们的经验中学习，并且他们可以学习，例如，认识到对人类毫无意义的模式。
在某种程度上，它也开始在现实生活中发生。您向银行申请贷款或抵押贷款。在美国，你的应用可能不会归于人类;它转到算法。该算法会分析它对您的所有数据，并显示“是”或“否”。
让我们说算法说：“不，不要给他贷款”，你去银行然后问：“你为什么拒绝给我贷款？”银行说，“我们不知道。算法说'不'。而且我们不明白为什么算法会说“不”，因为算法识别模式 - 让我们说：谁是违约贷款的人？ - 人们无法识别。这就是我们采用算法的全部原因，而不是人类，因为他们可以做我们做不到的事情。但这也意味着我们只是不明白为什么算法没有给你贷款，但根据我们的经验，算法往往是正确的。所以我们只相信算法不知道为什么决定它决定的方式。“
提问者[Edward Kabak]：有点像民主统治 - 少数人基本上被搞砸了。这是原始的基础。但从长远来看，除了算法本身，没有人会理解它，这是最令人恐惧的一点;在政府方面，你真的是靠机器运行。
问题：非常感谢。我的名字是Hardeep Puri。我是外交官，现在是作家。我对你的演讲很着迷，我很期待看你的书。
有些东西让我担心，那就是在一天结束时你所说的技术如何决定我们的生存是绝对正确的。但我正在考虑短期和中期。你在中国有13亿人，印度有12亿人，我熟悉的两个国家。那里也有很多技术发展。你有极端的发展贫困问题需要处理。
在你的书中以及你所说的这个观点是你在30,000英尺处飞行并且你正在向下看，而你正在寻找这些非常成功的技术驱动的团队，他们正在做这些事情。但是，这项技术与人民及其生活之间的相互作用将产生动荡。
YUVAL NOAH HARARI：是的。
提问者[Hardeep Puri]：事实上，当瑞典着名的男人谈到修改H-1B签证要求时说：“我们要把费用从65,000美元提高到130,000美元” - 我是代表印度在这里 - 我是一个实际上并不担心的人。我说，“如果他这样做，他就会直接打击美国工业的竞争力。”
可以生产技术 - 不同于过境并且在边境征税的商品。如果你从硅谷吊起10万人并将它们放在日内瓦的LacLéman旁边，他们可以从那里做同样的事情。
所以我认为选择 - 当你说这是最终的选择问题时，我真的很感动 - 不仅仅是政治问题。选择将是经济的;选择将是道德的;选择将是民主国家是否最终 - 你使用的词 - “弱势”少数民族等等。它将造成混乱。
YUVAL NOAH HARARI：是的。
提问者[Hardeep Puri]：我认为在某个阶段我们必须开始研究那些短期和中期的事情。你谈到了重塑。迷人。我们正在重塑自我，但我们不一定知道我们要去哪里，而且重新发明对于我们存在的基本要素来说可能是如此昂贵。
YUVAL NOAH HARARI：我完全同意。我们确实需要思考 - 不是在某个阶段，而是在今天 - 关于其影响。我举了孟加拉国纺织工人的例子。我们有民族主义政治，但正如你所说的那样，经济是全球性的，他们依靠生活将纺织品出口到欧洲或美国。如果您有新的发明和自动化浪潮，并且您可以在美国使用3D打印机，机器人或其他任何东西更便宜地生产这些纺织品，那么这意味着孟加拉国人民将失去生计。他们会做什么？
我们今天需要考虑它，而不是20年，因为如果答案是“哦，每个人都会成为一名软件工程师”，我们就不会教孟加拉国的孩子成为软件工程师。那么他们怎么能在20或30年内成为软件工程师呢？
我没有解决方案。但我认为是的，我们现在需要考虑这些事情，尤其是社会和政治影响，而不是技术问题。领导这场革命的大多数人都是工程师，技术人员和专门研究计算机科学或生物学等科学家的科学家，但他们在社会学，人类学和哲学等方面没有背景，有时也没有兴趣。
问题在于，政治体系中的人们，以及人文学科和大学里的人们，往往对计算机科学系正在发生的事情没有任何理解，有时甚至没有兴趣。那是非常危险的。
我在2016年参加了美国的竞选活动，我看到唐纳德特朗普吓唬人们说“墨西哥人会接受你的工作，中国人会接受你的工作。”而且他从未说过，“机器人会接受你的工作，”这可能同样可怕。他为什么不说呢？这是硅谷辩论的一部分，它是大学辩论的一部分，但它仍然不是公众辩论的一部分。
因此，即使机器人不能接受你的工作，这仍然是一个非常可怕的事情。那么为什么不说呢？也许是因为那时你需要在与加利福尼亚州的边界上建造一堵墙，而不是在与墨西哥的边界上。但令我感到害怕的是，这还不是主流政治辩论的一部分，因为我们没有太多时间。
JOANNE MYERS：Yuval，这只是一个迷人的早晨。我非常感谢你，我鼓励大家买他的书。它可以在房间的后面找到你。非常感谢。
Comments