在过去的五年里，
人工智能正在全球范围内呈爆炸式发展。
根据麦肯锡全球研究院的预测，
AI带来的社会革命，
将比工业革命快10倍，
规模放大300倍，
影响几乎是原来的3000倍。
《斯坦福2019年全球人工智能指数报告》指出，
从2012年开始，
AI算力的提升速度已经超出了摩尔定律的预测。
平均每 3.4 个月翻一番。
人工智能何时超越人类？
人类会被人工智能取代吗？
智人只是新一轮进化的起点吗？
谁会因为人工智能而失去工作，谁会永生？
我们身边已经有数以百万计的“超人”了吗？
……
近期由展路文化策划出版
《人工智能的25种可能性》一书，
汇集了世界上25位最聪明的大脑，
其中有物理学家、生物学家、
计算机专家、哲学家、心理学家、艺术家、
其中有诺贝尔奖获得者，
还有人工智能的理论和技术创始人。
他们预测了AI发展的各种前景，
它还警告人工智能给人类带来的各种挑战：
“进步不一定会给我们带来更好的未来；
危险不在于机器变得像人类，而在于机器变得像人类。
相反，人类变得像机器一样。 ”
石明编辑
Edge 创始人约翰·布罗克曼 (John ) 和他的妻子 照片：Ogata
Edge 被誉为世界上最智能的网站。 该网站汇集了进化生物学、遗传学、计算机科学、神经学、心理学、宇宙学和物理学等多个学科的最前沿、最顶尖的研究人员。 每年选出一个“年度议题”进行讨论，已举办20年。 年。
2016年，Edge的年度问题是“可能的想法”。 经过多次研讨会，Edge网站的创始人约翰·布罗克曼（John ）向参与者索要文章，最终收到了25篇文章，这些文章被汇编成我们今天看到的这本书。
《人工智能的 25 种可能性》一书的贡献者
“我们人类作为一个物种真的有能力控制完全意识、不受监管、自我完善的人工智能吗？” 布罗克曼问道。
我们曾经将大脑比作计算机。 互联网诞生后，我们发现大脑不是计算机，而是计算机网络。 基于对人类神经网络的模拟，人工智能在过去十年里已经越来越“接近”人类。 如果有一天，人工智能比我们“更好”，我们该怎么办？ 或者说，这一天真的到来了吗？
事实上，近年来我们一直听说人工智能取代人类。 2017年，李开复在“奇葩大会”上预测，未来十年50%的工作岗位将被人工智能取代。 重复性的工作，比如客服、收银员等，各个方面都开始崩溃。 创造性工作也经常伴随着坏消息：
2015年，美联社利用机器人写作每年制作超过15亿份报道，涵盖金融、房地产、体育等。
2016年里约奥运会期间，头条新闻机器人在13天内撰写了457篇报道，每天超过30篇报道，发布速度几乎与电视直播同步。
2017年8月9日，四川九寨沟发生7.0级地震。 机器人在25秒内产出了一份稿件，共540字，4张图片。
2018年，第一本人工智能小说《路》诞生并上市。 此前，人工智能已经能够写短篇小说、诗歌和剧本。
2019年虚拟偶像洛天依演唱会与郎朗同台
同年，首张人类与机器共同创作的流行音乐专辑《》诞生。 之前也有过AI创作的单曲，而且越来越多的AI创作的音乐也越来越受欢迎。
商用客机巨头空客公司使用人工智能代替人类设计师来设计飞机，制药巨头葛兰素史克和其他公司使用人工智能比人类研究人员更好地开发药物。
2019年，AI已经可以拍电影了，一部黑白科幻短片《Zone Out》。 整个制作过程包括剧本、导演、表演、配乐大部分都是由人工智能完成，只用了两天时间就完成了。
《流浪之神》剧照
斯坦福大学发布的《2019年AI指数报告》中，列出了“人类级别的表现里程碑”（Human-）。
今年，人工智能完成了两个新的里程碑：
1.在《星际争霸2》中击败人类顶级职业选手，
2. 以专家级的准确性检测糖尿病视网膜病变。
科学家们曾经自信地宣称，我们不必担心机器深度学习能力的威胁。 尽管人工智能取得了长足进步，但机器人“仍然不会系鞋带”。
然而，根据知名风险投资机构CB 2019年的一份报告，牛津大学和耶鲁大学的研究人员认为，到2022年（是的，两年后），AI将能够比人类更好地折叠衣服。
“过去十万年，整个世界都是由人脑管理的。一旦我们拥有了超人的人工智能，人脑管理的时代就结束了。环顾四周，你会见证人脑管理世界数千年。”过去几十年的岁月，”物理学家扬·塔利安在书中写道。
《西部世界》剧照
美剧《西部世界》仍在讨论人们应该像对待人类一样对待机器人。 不过，加州大学伯克利分校人工智能研究实验室创始人安卡·德拉甘提出物理学家黑白，我们现在面临的最紧迫的问题是让机器人把人当作“人”，并且从一开始就这样做，“而不是事后才考虑这件事。”
就在三天前，英国媒体报道称，一名英国男子向他的智能助手询问他的心跳周期时，AI回答说“活着是地球的负担”，并建议他“在自己的身体里插入一把刀”自杀。心。” 。
人类最终会受到自己创造的人工智能的强烈抵制吗？ 在这本书中，不止一位专家提到了一个关键点：人工智能的目标和价值体系必须与人类一致。
下面，我们从书中挑选了 10 个预测，让我们能够与最聪明的人一起发展：
Frank ：2004年诺贝尔物理学奖获得者
今天的人类可能只是未来更强大的智慧生物的进化起点。
人脑目前相对人工智能的优势在于：立体性、自愈性、神经元连接能力、脑细胞交互发育、感觉器官整合等。
三维和自愈能力对于人工智能来说并不困难，而且现在已经有了一条清晰的前进道路。 在感觉器官的整合方面，人类的视觉、听觉、触觉等还远远没有达到任何物理极限。 机器人可以移动得更快并且拥有更强壮的身体。
所以人类剩下的核心优势就是神经元的连通性和脑细胞的交互发育。 这可能成为一个新的、伟大的研究前沿。
人工智能相对于自然智能的优势是永久性的，而自然智能所拥有的优势似乎是暂时的。 进化的先锋将是机器人和超级头脑，而不是弱小的智人。
未来的人类，回顾今天的我们，可能会认为我们是他们的“精神始祖鸟”。 始祖鸟是一种高贵的动物，可以进化成更高级的生物。
Max ：麻省理工学院物理学终身教授、未来生命研究所创始人
参观完伦敦科学博物馆后，他在地铁站流下了眼泪：人类所取得的这些令人瞩目的科技进步难道都会付诸东流吗？
根据最近的一项调查，超过一半的人工智能专家认为，到2075年，人工智能有90%的机会达到人类的整体能力。在达到人类的能力后，它将在2年内实现超级智能（10%的专家认为） 30年（75%的专家认为）。
我们的宇宙诞生 138 亿年后，它开始有了自我意识。 从十亿年宇宙的角度来看，AGI在30年或300年内实现并没有什么区别，所以让我们关注其含义而不是时间。
我们必须问自己：我们想要创建一个什么样的社会？ 我们生命的意义和目的是什么？ 对于这个问题，我经常得到以下巧妙的答案：“让我们创造比我们更聪明的机器，让它们弄清楚！”
这种反应错误地将智力与道德等同起来。
事实上，如果我们首先制造比人类更聪明的机器，然后考虑它们的道德问题，那将是不负责任和灾难性的。 为了建造水坝和发电，需要淹没蚁丘。 人类不会三思而后行，所以我们在发展人工智能的时候，不应该把人类放在蚂蚁的位置上。
如果我们的技术在管理它方面超过了我们的智慧，那么这种技术可能会导致人类灭绝。 据估计，地球上20%至50%的物种因此而灭绝。 如果我们人类是下一个灭绝的物种，那就足够讽刺了。
乔治·丘奇（ ）：哈佛大学教授，最早的人类基因编辑者之一
未来什么样的人才能算“人”？ 如果机器人有意识，它是否也应该拥有权利？
1978年，世界上第一个试管婴儿路易丝·布朗出生之前，很多人担心她“可能是个小怪物，而且在某些方面可能是畸形的”。 但如今，很少有人对体外受精抱有这样的担忧。
全球有超过 2,300 项经批准的基因治疗临床试验正在进行中。 通常需要数月才能完成的过程现在可以在实验室中使用正确的转录因子配方在四天内完成。
我们可以创造出这样保真度不断提高的大脑，超越以前亚微升极限的人工大脑类器官，可能超过当今1.2升的现代人类大脑，甚至可能超过大象的5升大脑或抹香鲸的8升大脑。
我们原以为永远无法跨越的警戒线现在似乎越来越近，也越来越疯狂。 人类和机器之间的界限变得模糊，机器变得越来越像人类，而人类也变得越来越像机器。 我们越来越盲目地遵循 GPS 脚本、反射性推文和精心设计的营销。
在遗传学领域，警戒线导致我们禁止或避免转基因食品，但我们可以接受基因工程细菌来制造胰岛素，或转基因人类——欧洲已批准将线粒体疗法用于成人和胚胎。
地球上已经有超人了吗？ 如果我们将“超人类”定义为我们无法理解其技术和文化的人，那么一定有数百万人已经是超人类了。 我们大多数人都渴望更多的人成为超人。
“什么是人”的问题实际上已经转化为“各种超人是什么？他们的权利是什么？”的问题。
未来已经到来，只是分布不均。
Jan ：Skype 开发者，最早的电脑游戏开发者之一
人工智能是所有风险中最极端的，事关人类的生死存亡。
2009 年 3 月，我在加州繁忙高速公路旁的一家连锁餐厅里，遇到了一位年轻人，我一直关注他的博客。 为了让自己易于辨认，他戴着一个按钮，上面写着：即使你的声音颤抖，也要说实话。
我从他的博客中看到了一条革命性的信息：人工智能的持续发展将引起宇宙规模的变化，这种失控的过程可能会杀死所有人。
人工智能存在风险尚未成为常识。 人工智能研究人员尚未完全意识到这种风险的严重性。
当前关于人工智能风险的争论主要集中在技术性失业或对机器学习的偏见上。 虽然此类讨论很有价值并且解决了眼前的短期问题，但“询问机器超级智能对传统劳动力市场的影响就像询问月球撞击地球会对中美贸易模式产生什么影响一样。 它会。” 影响，但你没有抓住重点。”
残酷的现实是：宇宙不是为我们而创造的；它是为我们而创造的。 相反，我们需要进化以适应非常狭窄的环境参数。
硅基智能则不存在这样的环境问题。 地球目前的环境几乎肯定不是AI最关心的高效计算的最佳选择。 我们可能会发现我们的星球突然从人为的全球变暖转变为机械化的全球变冷。
人工智能安全研究需要解决的一个主要挑战是如何防止未来的超级智能人工智能（碳足迹比人类大得多的人工智能）使我们的环境不适合生物生存。
丹尼尔·丹尼特：人工智能领域最优秀的哲学家
他曾经建立了一个人类意识模型，让计算机能够发展人类意识。
大多数哺乳动物可以合成自己的维生素C，但灵长类动物自从选择以水果为主的饮食后就失去了这种与生俱来的能力。
现在我们必须从外界获取维生素C。 最重要的是，我们人类现在依赖衣服、熟食、维生素、疫苗、信用卡、智能手机和互联网，以及人工智能。
这就是不确定性的来源。 当一个有吸引力的机会出现时，我们往往愿意花一点钱并接受一些小的、甚至微不足道的价格来获得新的能力。 很快，我们变得如此依赖新工具，没有它们我们就无法成长。 曾经只是一种选择，现在已经成为一种必然。
我们不需要有意识的人工代理。 拥有自然意识的人类已经太多了物理学家黑白，我们需要的是智能工具。
这些工具没有任何权利，没有伤害感情，也不会因笨拙的用户虐待它们而感到不满。
不让人工智能体具有意识的原因之一是，无论它们变得多么自主，如果没有特殊规定，它们就不会像我们这样有自然意识的人类一样脆弱和死亡。
数字记录和传输是一项重大突破，让软件和数据几乎永远存在，机器人也依靠它实现永生。 如果这还不是很明显，那么想一想，如果我们每周都能创造一些“后备”人，人类道德会发生什么变化。
我们不应该努力创造强大的人工智能，而应该对我们能够和已经创造的人工智能系统极其谨慎。
塞思·劳埃德：量子计算机之父
如果摩尔定律的发展能够继续下去，只需要600年，整个宇宙就可以变成一台巨型量子计算机。
最近，我问现代神经科学先驱托马索·波吉奥（ ），他是否担心随着处理能力的迅速提高，计算机很快就会赶上人脑。 “绝对不是，”他回答道。
自 1950 年以来，计算机性能几乎每两年翻一番。 这种现象被称为“摩尔定律”。
然而，指数增长不可能永远持续下去，摩尔定律的指数增长最近开始进入基础物理学设定的极限。 最终，摩尔定律驱动的各种内存和处理器的指数增长将停止。
很多人担心深度学习和算法的发展会让人工智能比人脑更强大。 但机器学习的现实恰恰相反：随着它们的学习能力越来越强，它们的学习方式也变得越来越像人类。
在人类和机器老师的监督下进行机器学习的例子有很多。 教育计算机与教育青少年一样困难且缓慢。
它们带来的学习技能并不是“优于”人类学习，而是“补充”人类学习：计算机学习系统可以识别人类无法识别的模式，反之亦然。
世界上最好的国际象棋棋手既不是计算机也不是人类，而是与计算机合作的人。
Judea Pearl：加州大学洛杉矶分校认知系统实验室主任
在 20 世纪 80 年代，他发明了贝叶斯网络，这是当今人工智能执行深度学习的基础。 正是凭借深度学习能力，他击败了围棋世界冠军李世石。
深度学习有其自身的动力机制。 一旦你向它提供大量数据，它就会变得活跃，可以自我修复，找到最佳组合，并且在大多数情况下都会给出正确的结果。 但一旦结果出错，你就不会知道哪里出了问题。
有些人认为，我们为什么不使用深度学习系统来构建不需要了解其工作原理的智能呢？ 不透明的系统可以做伟大的工作，而我们的大脑就是这样的奇迹。
但这种观点有其局限性。
尤瓦尔·赫拉利（《人类简史》作者——编者注）和其他研究“智人”的历史学家一致认为，让人类祖先在四万年前统治地球的决定性因素是他们拥有一种能力将客观的外部事物内化。 他们可以一遍又一遍地重新审视这种内化的结果，用他们的想象力扭曲它，最后能够回答“如果……怎么办？”
例如，他们可能会问一些侵入性的问题：“如果我这样做会发生什么？” 他们还可能会提出回顾性或反事实的问题：“如果我没有这样做，会发生什么？”
今天没有学习机器可以回答这样的问题。 此外，大多数学习机器不具备提出此类问题的内在心理能力。
如果AI的因果模型始终处于黑匣子状态，那么我的结论是不可能产生与人类相媲美的人工智能。
：2009年诺贝尔化学奖获得者、现任英国皇家学会主席
我思故我在。 我们害怕人工智能，因为我们相信正是智能使我们独一无二。
到目前为止，我主要关注人工智能的实际后果。 作为一名科学家，令我困扰的是我们可能会失去我们的理解。
在我自己的实验室中，一项实验每天会生成超过 1 TB 的数据，我们会对这些数据进行处理、分析和简化。 我们知道程序在做什么，因为程序算法的核心是我们设计的。 因此，当计算机产生结果时，我们感觉我们已经在智力上掌握了它。
新的机器学习程序完全不同。 当通过深度神经网络识别模式时，它们会在我们不知道发生了什么的情况下得出结论。 如果有人问我们如何知道某事，我们会简单地说，因为机器分析了数据，所以机器得出了结论。
有一天，计算机很可能得到一个全新的结果，比如一个数学定理。 没有人能够理解这个数学定理的论证，甚至它的描述。 我发现这种潜在的缺乏理解令人不安。
许多进化科学家指出，人类大脑是数十亿年进化的结果。 人类智力并不像我们想象的那样是人类独有的特征，它只是另一种生存机制。 世界上几个国家已经启动了神经科学登月计划，看看我们是否能够破译大脑的运作方式。
如果我们退一步看看地球上的生命，我们就会发现我们距离最具适应力的物种还很远。 如果到了某个时候我们人类被取代，取代我们的将是地球上最古老的生命形式，比如细菌，它们可以生活在从南极洲到深海热液喷口的任何地方，或者在酸性环境中，在这样的环境中，你我会被融化。
我不知道人工智能会带来什么样的未来，但无论是哪一个未来，我可以高度肯定地说，计算机永远不会成为细菌的霸主。
艾莉森·戈普尼克（ ）：发展心理学专家、“心理理论”联合创始人
观察孩子们的行为可能会给程序员提供一些关于计算机学习方向的有用提示。
到目前为止，最复杂的人工智能还远远无法解决4岁孩子可以轻松完成的问题。
例如，识别猫。 计算机可以非常准确地将新图像标记为“猫”，但它们的做法与人类的概括方式非常不同。 计算机需要数百万个示例，而我们只需要几个示例即可进行分类。 有些图像与猫的图像几乎相同，但我们根本不会认为它们是猫，而其他图像可能看起来不像猫，但我们认为它们是猫。
另一个对人类来说不是问题但对计算机来说非常困难的问题是识别不熟悉的手写字符。 看日本卷轴上的一个字符。 即使您以前从未见过它，您也可能能够分辨出它与另一卷轴上的角色是否相似或不同。 您也可以根据您看到的日语字符来绘制它，甚至设计一个假日语字符。 但不是电脑。
谷歌翻译之所以成功，是因为它利用了数百万条人工翻译并将其概括为新的文本片段，而不是真正理解句子本身。
人类儿童的非凡之处在于，他们没有大量数据，但他们可以快速、直观、创造性地学习，并令人惊讶地得出远远超出他们经验的新推论。 我们也不知道他们是如何做到的。
例如，我自己的孙子最近解释说，如果一个成年人想再次成为一个孩子，他应该尽量不要吃任何健康的蔬菜，因为健康的蔬菜使孩子成为成年人。
这种假设，这种可能的假设，即成年人不会觉得这很有趣，是儿童的特征。 事实上，我和我的同事已经系统地表明，学龄前儿童比年龄较大的儿童和成人更擅长提出不太可能的假设。 我们对儿童如何培养这种创造性学习和创新的能力几乎一无所知。
对于人工智能取代人类是否会带来世界末日或美丽的乌托邦，我们目前还没有太多依据。 但在学习的基本矛盾得到解决之前，最好的人工智能也无法与一个普通的4岁孩子竞争。
斯蒂芬·沃尔夫勒姆：“神童”、科学家、发明家
他发明了人类和人工智能交流的第一种真正的语言——语言。
与机器交流与与人交流有何不同？ 在大多数人与人之间的交流中，我们坚持使用纯粹的语言，而在计算机与人之间的交流中，大多数人想要一个视觉显示，一个显示这个或那个的信息图表。 它是一种非人类的交流形式，比传统的口头或打字交流更丰富。
500年前人类需要解决的大问题就是识字。 今天，我感兴趣的一个问题是，当大多数人都会写代码时，世界会是什么样子？
很明显，很多琐碎的事情都会改变：合同是用代码起草的，餐厅菜谱是用代码编写的，等等。 编码是一种表达形式，就像自然语言写作是一种表达形式一样。
自然语言给我们带来了文明，那么基于知识的编程又会给我们带来什么呢？ 一个糟糕的答案是，它将给我们带来人工智能文明。
这是我们不希望发生的事情，因为人工智能彼此之间的沟通非常好，以至于我们会被排除在外，因为没有中间语言，没有与我们大脑的接口。 在人工智能相互交流的这个层面上，知识交换带来了什么？ 如果你是一个穴居人，如果你刚刚意识到语言，你能想象文明的出现吗？ 现在我们应该想象什么？
以高中教育为例。 如果我们有计算思维，这将如何影响我们对历史的学习？ 答案是，影响巨大。
一般来说，学生不能轻易创造新知识。 但如果学生了解一些关于编写代码的知识，他们就可以访问所有数字化历史数据来找出新的东西。 基于知识的编程可以不断自我复制。
这是哥白尼故事的另一部分：我们曾经认为地球是宇宙的中心。 现在我们认为我们很特别，因为我们很聪明，而其他东西则不然。 恐怕坏消息是它没什么特别的。
我们今天的许多目标都是由某种稀缺性驱动的。 世界上的资源是稀缺的，人们想要更多的资源。 在我们的生活中，时间本身就是一种稀缺商品。
然而，最终这些稀缺现象将不复存在。 有一天，无论是通过生物学还是数字方式，永生将会实现。 那么，当我们当前的动机不复存在后，子孙后代最终会选择做什么？ 一种可能的不良结果是他们一直玩电子游戏。
假设有一天我们可以轻松地以数字形式上传人类意识并将其虚拟化，那么我们很快就会拥有一个容纳万亿灵魂的盒子。 在这个盒子里，分子计算将永远持续下去。 每个灵魂本质上都在玩电子游戏。
正如你可以想象的，这就是我们未来文明的终结。
本文引用的专家意见来自湛鹭文化出品、浙江人民出版社出版、约翰·布罗克曼主编、王佳音译的《人工智能的25种可能性》一书
标题照片摄影：
