尼克·波斯特洛姆：超级智能会改变什么
在你的颅腔里，有个器官能够阅读。这个器官就是人的大脑，它具有其他动物大脑没有的一些能力，而我们在地球上的主宰地位便归功于这些独特的能力。其他动物有更强壮的肌肉或更锐利的爪子，但是我们有更聪明的大脑。我们在一般方面的些许优势使我们创造了语言，发展了科技，并建立了复杂的社会组织。这种优势随着时间的延续而不断提高，因为每一代人的成就都建立在前人的成就之上。如果有一天我们发明了超越人类大脑一般智能的机器大脑，那么这种智能将会非常强大。并且，正如现在大猩猩的命运更多地取决于人类而不是它们自身一样，人类的命运将取决于超级智能机器。然而我们拥有一项优势：我们清楚地知道如何制造超级智能机器。原则上，我们能够制造一种保护人类价值的超级智能，当然，我们也有足够的理由这么做。实际上，控制问题——也就是如何控制超级智能，似乎非常困难，而且我们似乎也只有一次机会。一旦不友好的超级智能出现，它就会阻止我们将其替换或者更改其偏好设置，而我们的命运就因此被锁定了。在中，我将努力诠释可能出现的超级智能带来的挑战，以及我们如何更好地应对。这很可能是人类面对的最重要和最可怕的挑战。而且，不管我们成功还是失败，这大概都是我们将要面对的最后一个挑战。本书并不认为，我们即将在人工智能方面取得重大突破，或者能够准确预测突破会在何时发生。突破有可能会在21世纪的某些时候实现，但是我们并不能确定。本书的前几章讨论了取得突破的可能途径，并谈论了何时能够突破的问题。然而，本书的主要部分讨论的是智能爆发以后会发生什么。我们会研究智能大爆发的动力学，超级智能的形式和能量，以及具有决定性优势的超级智能体有哪些战略选择。然后，我们探讨的重点转向控制问题，并提出为了让我们生存并且获得有利的结果，我们如何选择初始数据的问题。在本书的结尾，我们将画面拉远，思考我们的研究所呈现的更大的图景。最后提出了一些建议，指出为了增加避免存在性灾难的概率，我们现在可以做些什么。
我希望本书可以开辟出一条道路，以使其他研究者能够更加快速和便捷地到达这个领域的前沿，从而以全新的视角加入这项研究，进一步扩展我们的认识。非科技专业的读者不必因为书中偶尔出现的数学知识或专业术语感到气馁，因为往往可以通过上下文的解释看懂主要观点。我已经尽可能地在全书中指明细微差别和不确定性——书中遍布着太多的“可能”、“或许”、“也许”、“也有可能”、“看起来”、“大概”、“非常可能”、“几乎肯定”这样的词。我相信我的书中可能有一些较严重的问题和误导性，但是我认为目前书中提到的其他观点更加糟糕，包括默认观点或者所谓的“零假设”，这些观点认为我们可以暂时安全地或合理地忽略超级智能出现的可能性。
本文来源：中国证券报·中证网
关键词阅读：
不做嘴炮 只管约到
跟贴热词：
文明上网，登录发贴
网友评论仅供其表达个人看法，并不表明网易立场。
热门产品:　　　
:　　　　　　　　
:　　　　　　　　　
热门影院：
用微信扫描二维码分享至好友和朋友圈商品编号：
该商品已下柜，非常抱歉！
超级智能-路线图.危险性与应对策略 【英】尼克·波斯特洛姆(Nick Bostrom) 6
加载中，请稍候...
商品介绍加载中...
扫一扫，精彩好书免费看
服务承诺：
京东平台卖家销售并发货的商品，由平台卖家提供发票和相应的售后服务。请您放心购买！
注：因厂家会在没有任何提前通知的情况下更改产品包装、产地或者一些附件，本司不能确保客户收到的货物与商城图片、产地、附件说明完全一致。只能确保为原厂正货！并且保证与当时市场上同样主流新品一致。若本商城没有及时更新，请大家谅解！
权利声明：京东上的所有商品信息、客户评价、商品咨询、网友讨论等内容，是京东重要的经营资源，未经许可，禁止非法转载使用。
注：本站商品信息均来自于合作方，其真实性、准确性和合法性由信息拥有者（合作方）负责。本站不提供任何保证，并不承担任何法律责任。
印刷版次不同，印刷时间和版次以实物为准。
价格说明：
京东价：京东价为商品的销售价，是您最终决定是否购买商品的依据。
划线价：商品展示的划横线价格为参考价，该价格可能是品牌专柜标价、商品吊牌价或由品牌供应商提供的正品零售价（如厂商指导价、建议零售价等）或该商品在京东平台上曾经展示过的销售价；由于地区、时间的差异性和市场行情波动，品牌专柜标价、商品吊牌价等可能会与您购物时展示的不一致，该价格仅供您参考。
折扣：如无特殊说明，折扣指销售商在原价、或划线价（如品牌专柜标价、商品吊牌价、厂商指导价、厂商建议零售价）等某一价格基础上计算出的优惠比例或优惠金额；如有疑问，您可在购买前联系销售商进行咨询。
异常问题：商品促销信息以商品详情页“促销”栏中的信息为准；商品的具体售价以订单结算页价格为准；如您发现活动商品售价或促销信息有异常，建议购买前先联系销售商咨询。
加载中，请稍候...
加载中，请稍候...
加载中，请稍候...
加载中，请稍候...
加载中，请稍候...
加载中，请稍候...
加载中，请稍候...
浏览了该商品的用户还浏览了
加载中，请稍候...
价　格： 到
　　　
iframe(src='///ns.html?id=GTM-T947SH', height='0', width='0', style='display: visibility:')商品编号：
京 东 价：
[定价：￥]
支　　持：
搭配赠品：
所 在 地：浙江 杭州市
服务支持：
加载中，请稍候...
加载中，请稍候...
加载中，请稍候...
超级智能：路线图、危险性与应对策略
尼克·波斯特洛姆著 《纽约时报》、亚马逊畅销书
加载中，请稍候...
商品介绍加载中...
扫一扫，精彩好书免费看
服务承诺：
京东平台卖家销售并发货的商品，由平台卖家提供发票和相应的售后服务。请您放心购买！
注：因厂家会在没有任何提前通知的情况下更改产品包装、产地或者一些附件，本司不能确保客户收到的货物与商城图片、产地、附件说明完全一致。只能确保为原厂正货！并且保证与当时市场上同样主流新品一致。若本商城没有及时更新，请大家谅解！
权利声明：京东上的所有商品信息、客户评价、商品咨询、网友讨论等内容，是京东重要的经营资源，未经许可，禁止非法转载使用。
注：本站商品信息均来自于合作方，其真实性、准确性和合法性由信息拥有者（合作方）负责。本站不提供任何保证，并不承担任何法律责任。
印刷版次不同，印刷时间和版次以实物为准。
价格说明：
京东价：京东价为商品的销售价，是您最终决定是否购买商品的依据。
划线价：商品展示的划横线价格为参考价，该价格可能是品牌专柜标价、商品吊牌价或由品牌供应商提供的正品零售价（如厂商指导价、建议零售价等）或该商品在京东平台上曾经展示过的销售价；由于地区、时间的差异性和市场行情波动，品牌专柜标价、商品吊牌价等可能会与您购物时展示的不一致，该价格仅供您参考。
折扣：如无特殊说明，折扣指销售商在原价、或划线价（如品牌专柜标价、商品吊牌价、厂商指导价、厂商建议零售价）等某一价格基础上计算出的优惠比例或优惠金额；如有疑问，您可在购买前联系销售商进行咨询。
异常问题：商品促销信息以商品详情页“促销”栏中的信息为准；商品的具体售价以订单结算页价格为准；如您发现活动商品售价或促销信息有异常，建议购买前先联系销售商咨询。
加载中，请稍候...
加载中，请稍候...
加载中，请稍候...
加载中，请稍候...
加载中，请稍候...
加载中，请稍候...
加载中，请稍候...
浏览了该商品的用户还浏览了
加载中，请稍候...
价　格： 到
　　　
iframe(src='///ns.html?id=GTM-T947SH', height='0', width='0', style='display: visibility:')超越人类智能的可能与灾难――读尼克?波斯特洛姆《超级智能》
|经济|投资|行业_新浪财经_新浪网
&&& &&正文
超越人类智能的可能与灾难――读尼克?波斯特洛姆《超级智能》
　　⊙曾靖皓
　　如果真的出现超越人类智力水平的生命体或物质，它会以怎样的方式出现，人类的命运将会如何？或许对大多数人来说这样的问题过于科幻，遥遥无期而不值得去过多思考，至少部分人会认为这不应放在一个严肃的科学命题的角度来讨论。但是，事实情况可能并非人们想象的如此乐观。牛津大学的学者尼克?波斯特洛姆在《超级智能》中从科学角度全面论述了超级智能出现的可能与形式，以及它对人类社会可能带来的影响和应对方案。从波斯特洛姆的论述来看，超级智能已不再只是影视和文学中的想象物，而是一种近在咫尺的可能，他由此认为，我们必须对超级智能的产生有深入的思考和认识，如果只是坐视它的出现而毫无准备，那么人类社会和人类本身的命运将面临极大的挑战。
　　留给我们的时间不多了
　　自从现代计算机发明以来，人工智能概念在上世纪五十年代很快被提出，作为一种尖端科技，制造与人类智力水平相当的机器或软件一直在缓慢而艰难的推进，中间曾经历两次大的起伏。一次是在上世纪七十年代，由于硬件技术的限制，大规模数据存储和加工都远远跟不上人工智能理论的需求，科学家和投资人对研究的未来变得异常悲观，而在计算机技术快速发展后的八十年代末，由于在可控成本内基本上只能实现运行单一程序的小规模系统，让人工智能研究再次陷入低潮，直到九十年代才缓慢复苏。
　　虽然研究进程磕磕绊绊，但波斯特洛姆还是向我们列举了诸多人工智能上的成就，比如1997年击败国际象棋世界冠军卡斯帕罗夫的深蓝，自动出入境程序中的人脸识别系统，还有美国军队在海湾战争中运用的智能计划日常安排程序等等。不过这些成就都有致命缺陷――此类独立系统都只能在有限范围和领域内实现单一的认知，无法像真正的人类智慧一样具有普遍的问题解决能力，这类系统所以也被称为“弱人工智能”。
　　那么，是否有可能获得具备人类智能水平的“强人工智能”呢？波斯特洛姆给出了肯定的回答。他认为，计算机硬件技术一直保持着高速发展，而且很多领域呈几何增长态势，并且单一系统的人工智能应用已比较发达，延伸和扩散得很快，再加上软件工程和计算机神经系统科学等领域的突飞猛进，今天人工智能发展的成熟度整体上已很高，在未来40年内会有50%的可能出现等同人类智能的系统，最晚也会在本世纪末出现。而从“强人工智能”到超级智能的出现会有三种情况：一是瞬间爆发，也就是在短短几分钟，几个小时，几天的时间内，人工智能会突破“跨界点”，之后将完全按自己的想法行动；二是缓慢爆发，跨界时间会被拉长到几十甚至上百年。三是温和爆发，也就是中等时间长度，预计爆发时间在几个月或几年内。波斯特洛姆发现，智能的增长率与智能爆发的反抗度成反比关系。反抗度也就是智能水平增长及实现环境的阻碍，在一般情况下，在越接近人类智能水平时反抗度越高，而越过这个坎人工智能的增速将呈现下坡式的加速状态。所以达到人类智能水平后出现超级智能的时间最有可能的是瞬间和温和两种，而不是大家认为最有可能的缓慢出现。据此而论，留给人类的准备时间其实并不多了。
　　如何以及迈向怎样的超级智能
　　波斯特洛姆认为，超级智能的实现路径决定了最后它会以何种形式出现，也决定了它所带来的问题和我们可能面临的机遇。而就目前的技术水平而言，有五个通往超级智能的路径，一个是狭义上的人工智能，即通过编写完全模拟人类思维的程序，并兼具学习进化能力。这种方式最大的关键在于遗传算法对计算机能力的需求和计算机技术的发达程度，只要这两个关键因素得到突破，这将是最可能在瞬间完成跨界的方式之一。这种方式也留下了一个契机：无需模仿人类心智，也就是说对于人类情感无能为力，如何赋予其道德情感，这会是个巨大的问题，也为人类如何挑战留下了机会。第二种是全脑仿真，通过精细扫描人类大脑，将原始数据输入计算机，然后构建起一个完全模仿人类大脑的智能程序，这其实是前一种方法的延续，其问题与挑战也类似。第三种生物认知，通过人工育种实现优生来求得智能上的突破，显然这种方式不仅面临极大的道德挑战和伦理风险，且耗时非常长，不确定性也非常多，实现的可能性最小。第四种是人脑与计算机交互，植入技术是最常见的交互方式，这极为复杂，且可替代性很强，所以也不理想。第五种是通过网络和组织让人类的大脑相连，在适当时候这种网络会成为集体超级智能，比如互联网，这种方式最不确定，无人知晓其确切原理，只能靠机缘。
　　不难发现，最有可能出现的超级智能是人工智能和全脑仿真，尤其是前者。那么最后会得到何种超级智能呢？波斯特洛姆认为有三种，高速、集体、素质超级智能。由于网路和组织方式获得超级智能难以实现，最终我们可能见到的是一个比人类更为聪明，并且结算能力超快的智能体。
　　问题及应对
　　由于超级智能出现的时间可能较短，在世界范围内可能只有单一项目会突破“跨界点”，那么也就是只有一个单一的超级智能体会拥有决定性战略优势。先不说超级智能对社会、经济、人类位置带来的影响，它可能的最大威胁是导致地球上智能生命的灭亡或使其失去发展潜能，在波斯特洛姆看来这已不是妄谈。因为超级智能的突然出现是缺乏人类情感和最终的价值观体系的，在此情况下超级智能自身存在的目标可能是随机或简单的，但有一点可以确定，即出于工具性目的，它将会把无限攫取资源看成自身目标的保障，占有和消耗资源最多的人类无疑会在逻辑上成为被限制的“物”。
　　波斯特洛姆通过背叛转折和反常目标实现形式来论证了这种可能的必然性。他提出，要克服这个结果，只有在超级智能出现以前做好准备，对其可能出现的能力设法预防性控制，对其动机选择设法限制。能力控制有遏制系统性能和信息传输的盒子方法，采取代码奖赏使其目标循环的激励方法，以及设置绊网探测危险行动后关闭的方法。动机限制则可采取直接或间接的规则载入，或在选择可能的超级智能体前，将其设置为类似人类和对人类友好，或者直接限定超级智能体突变前的目标。
文章关键词：
&&|&&&&|&&&&|&&
您可通过新浪首页顶部 “”， 查看所有收藏过的文章。
请用微博账号，推荐效果更好！
看过本文的人还看过对不起，您要访问的页面暂时没有找到。您可以...
您可能感兴趣的：