本文经清小暑(thuqxs)授权转载，石头在原文基础上稍作改动。为了感谢大家长期的支持，文末送个小福利——抽奖送书，欢迎参加。

图源：清华大学小研在线

刘云浩教授，何许人也？

看到这篇文章特别亲切，早就想转了，不过几经辗转才拿到授权（之前看到某大号还悄悄转载，不过后来侵权被删了，所以也不敢悄悄转载），为啥亲切呢？ 

刘云浩老师在我读研期间的正是清华大学软件学院院长，有幸也听过刘老师的课和讲座，早就被吸粉了。简单介绍刘老师到底神在哪里。

刘云浩，ACM、IEEE 双 Fellow，清华大学长江学者特聘教授，年任清华大学软件学院院长，就在前两天，又出任清华大学全球创新学院（GIX)院长。

刘云浩老师本尊，帅不帅

单单看看刘老师求学期间的这部分的经历就够了。刘老师90年代在清华自动化系读的本科，在校期间做了哪些事情呢？

• 曾是排球国家级运动员，代表清华男排获得北京高校排球联赛甲组冠军，北京代表队队员，代表北京获得全国比赛亚军；在校期间还写过历史小说，出版了《无头案雍正暴亡之谜》一书；

• 本科和朋友创业，在90年代，一年的流水可达1000万出头；

• 本科毕业后放弃保研，选择报考北京外国语大学高级翻译学院，获文学硕士学位；

• 北外毕业后选择从政，不到30岁就成为当时国家邮电部最年轻的处长；

• 而立之年选择出国去美国密西根州立大学留学，仅三年多就拿下计算机硕士和博士；

刘老师还和同学打成一片，我有同学的导师正好是刘老师，听他说还会跟刘老师一起打Dota，羡慕么？

其他学术成就，我就不贴了，关键贴了我也不懂呀，感兴趣的同学可自行搜索，就单看上面这段经历，你能想到什么词来形容吗？（请大家积极留言，顺便还能抽个奖）不过当刘老师谈人生目标时，他答道：“就是做一个很棒的普通人，希望大家也能先做一个很棒的普通人”

不多说了，下面来欣赏下刘老师的三万字回复吧，看看这样的牛人是怎么看待AI 的，也是回答了不少同学的疑问。

说明以上部分内容参考自：

长文预警，本文工 3W+字，阅读需要花不少时间，建议收藏后花时间细品。别忘了可以参加文末抽奖送书（也请帮忙 review 下抽奖代码是否合理）活动。

近3万字回复关于人工智能的 2000 多个提问

2020年8月的第一周，清华大学暑期学校在荷塘·雨课堂上云开学。

开学第一天，刘云浩教授如期而至，为同学们作了题为《What is the role of AI Tomorrow?——人工智能打开了潘多拉的盒子吗？》的专业认知讲座。人工智能领域里一个个复杂深奥的问题在他的讲解下变得明了易懂，并且引发了同学们深入广泛的思考。加之线上讲座及时沟通的优势，这次除了讲座期间刘老师当场回复的问题之外，我们收到了包括弹幕在内的2000多个提问。刘云浩教授经过选择、合并、归纳成了92个问题，写了近3万字回复。

而这个夏天，我们不能在清华园里相见的遗憾，似乎也在下面这3万字的真诚回答中溶解、反应，变成“来清华，造光明”的希望与力量。

快来看看你的“花式提问”有没有

被刘云浩教授PICK吧

请问如何看待中国软件行业的现状，以及我们应如何在美国施压下发展计算机产业?希望教授可以给一些建议

A：在应用软件特别是面向消费者的应用软件方面，我国是处在世界一流水平的，有些移动应用（如TikTok）已经处于世界领先水平。但是在工业软件（如电子设计自动化EDA软件）和基础软件（如类似Windows的操作系统）方面，我国与世界一流水平还有较大的差距（石头注：特意改了下颜色，表示重点强调一下，后文一样）。

在这些领域，国际合作是十分重要的，因为不是每一项技术我们都能在短时间内掌握。但这绝不意味着我们要放弃自主研发，面对世界局势的变化，采购不能解决所有问题，甚至合法的商业活动也会面临来自外部的干扰。

广泛结交朋友，拥抱开放理念，加强自主研发，逐步达到世界领先水平，这需要包括你我在内的几代人不断努力才能实现。

老师如何看待Intel的数据库泄露？会对中国国内的相关行业有好影响吗？

A：在Intel数据泄露这件事情上，媒体有些夸大其词了，根据一些细节更多的报道，泄露的资料是Intel给客户的支持资料，只不过通常客户需要签署保密协议（NDA）才能拿到。因此，这些资料对我国的芯片设计没有太多实际价值。在芯片设计领域，近年来我国有很大进步，无论是嵌入式微处理器，还是中高端的片上系统、服务器处理器，一批国产企业都已经发展壮大起来，在一些领域如神经网络处理器，我国企业的设计能力已经处于世界一流。

但是必须清醒地认识到，光有设计能力是远远不够的，在高端芯片领域，我们缺乏更精细制程（例如10nm或更低）的生产制造能力。这也正是目前卡脖子的核心问题之一。在制造过程中，核心的步骤是在晶圆（硅片）上把设计好的线路刻出来，这需要光刻机和光刻胶。

目前，高端光刻机在全球范围内只有荷兰的阿斯麦公司可以生产，而配套的光刻胶也几乎完全由日本公司生产。另一方面，即使拥有设备，也还需要与之配套的工艺流程，好的工艺需要时间的打磨，这同样需要一代又一代人的共同努力。

如何看待GPT-3系统在人工智能发展中的地位？

最近 1750 亿参数的 GPT-3 发布了，这个网络的训练用了 700 个 G 的数据，您怎么看待现在神经网络的这种数据量、参数、训练成本甚至 inference 成本都在不断提高的趋势？这会是一个正确的趋势吗？

A：GPT-3一发布就引起了业内的广泛关注，人们惊奇地发现，当给模型足够多的参数并用足量的数据训练后，人工智能不仅可以写文章、编故事、搞翻译，甚至可以写代码、做数学运算、画表格、生成复杂格式的数据等等，几乎是在文本方面为所欲为了，说GPT-3是NLP（自然语言处理）的王者毫不为过。GPT-3在一定程度上意味着深度学习还没有完全走到极致，继续增加资源投入还存在取得更好效果的空间。

丰富的数据使GPT-3在答题、写文章、翻译甚至生成代码方面的效果都非常好。和其他深度学习技术一样，GPT-3也可能针对“错误”的输入给出错误的预测，例如你问它“我的脚有多少只眼睛？”，它会回答“你的脚有两只眼睛。”这类问题对GPT-3这样的系统并不容易解决，所以GPT-3这样的系统会不会是深度学习的尽头还有待历史检验。GPT-3耗费巨资训练模型很难被一般的科研团队效仿，所以很难说这会不会成为一个趋势，倘若这真的成为趋势，那此类人工智能算法将形成一定规模的技术垄断。

在这次的抗击新冠肺炎疫情的过程中，中医药学做出了很大的贡献，我本人也对中医药学十分感兴趣，请问刘老师您认为人工智能在与中医药学及中国传统文化的结合中会碰撞出怎样的火花？

A：近年来，将中医与人工智能结合的案例有不少，从诊疗辅助设备到开药方，都有企业、高校在做研究和实践，甚至还有一些人工智能概念中医诊所已经在线下开设了。中国传统儒家思想可分为“理学”和“心学”两派。

12世纪中期时“理学”代表人物宋代儒学家朱熹提出“格物致知”，同时期“心学”代表人物宋代儒学家陆九渊强调了人“心”在认知中的主导地位，所观察到的事物只是认知的具体表现形式。

15世纪到16世纪明代思想家王阳明在对朱熹和陆九渊的思辨进行了实践和应用的基础上，提出了“阳明心学”对后世影响深远，王阳明强调要“知行合一”、“致良知”，既强调了“心学”在认知过程的重要地位，又重视应根据事物的具体表现和观察来灵活地应用自身的认知，两者是有机的结合。将中国传统哲学思想与人工智能做对比，神经网络的设计思想和“理学”相似，而如果能借鉴“心学”，也许能推动人工智能走向下一阶段。

刘教授您好！我的问题是：由人类创造出的人工智能有可能超越人脑逻辑吗？是否有可能，人工智能的智力最终可以超越人脑？

人工智能能否达到逼近人类程度的思考或者超过人类？

老师好，虽然现在人工智能离全面超越人类还有相当的距离，但如何避免一些科幻片中人工智能反人类，甚至对人类文明造成很大冲击的情况出现呢？

AI是否会摆脱人类的控制？我们在发展AI的过程中是否应该对AI的智能有一定的限制？

未来怎样正确使用AI？

（王雪、田沐钊、范承悦、于佳辰、张兆熙等多位同学在弹幕中也提到了类似问题）

A：单论智力的话，人工智能在解决很多问题方面可以比人类做得好，而在另外一些领域，现在谈论人工智能超越人类或摆脱人类的控制为时尚早，但这类问题一直备受人们关注。课上我们提到了物理学家霍金（Stephen Hawking），SpaceX和特斯拉创始人埃隆·马斯克（Elon Musk）都针对人工智能的发展表达过忧虑。

在2018年的人工智能顶级会议NeurIPS上，图灵奖获得者、深度学习的三大奠基人之一约舒亚·本吉奥（Yoshua Bengio）针对滥用人工智能可能带来的一系列风险提出了一套关于AI的道德准则，称为蒙特利尔宣言，倡议各个组织在研发、使用人工智能时遵循相应的原则。

2018年7月，欧盟完成了《人工智能合作宣言》的签署，进一步制定了人工智能的伦理规范。加强制定相应的规范、建立监督与惩戒机制，非常非常重要。而可控的人工智能将为我们带来无限的可能。

2013年获得ACM主席奖做获奖感言，刘云浩是该奖1985年设立以来首位获奖华人

什么是自动化，自动化如何应用？还有自动化应用领域。

自动化和人工智能的具体研究内容及发展方向是什么呢？

想问一下教授所说的人工智能是更多属于自动化系还是计算机系

人工智能传统上是自动化专业的一个方向，现在是否反而更接近计算机专业了？

（路涛玮、田紫阳、林小渠、李弘杰、徐睿等多位同学在弹幕中也提到了类似问题）

A：从定义上说，自动化是关于人工与自然系统自动、智能、自主、高效和安全运行的科学与技术，是信息科学的重要组成部分，以“系统论、控制论、信息论”为核心。自动化技术广泛应用于工业、农业、能源、交通、金融、军事等各个领域。

大家熟知的机器人、载人飞船、高铁、智能交通等各种复杂工程系统的核心都是自动控制系统。以计算机与软件工程、自动化、电子工程等信息类为代表的专业是当前研究人工智能的主力，这主要是因为无论从信息论还是控制论出发，现阶段人工智能研究的核心主要是算法。但是人工智能并不是自动化系或是计算机系独有的，甚至不是信息学院所独有的。

我们也说过，现在人文社科急需加入到人工智能研究工作中来。如果你不能体会，你想想，我们上大学那个年代，大约主要就是计算机自动化系学编程，今天有多少专业的研究都需要学编程序？

人脑与AI的思维方式有哪些共同之处？有哪些本质上的不同？如何实现AI思维的人性化（humanize）?

老师好，AI被称为人工智能，您讲它是“会思考的机器人”，那么AI的智能和思考和我们人类的自我认知功能有什么区别和联系？AI最终究竟是会像人类一样有自我认知，还是只是算法和为人类服务功能的提升呢？

刘教授您好，人类创造的人工智能以后也许能够像人类独立地思考，那么他们会不会像人类一样拥有自己的哲学，于是又像人类一样演进历史，创造出人工智能的人工智能，从而达到地球上生物的进化，一代又一代的人工智能创造出来，那么最后的人工智能会不会达到我们现在人类所认为的神、上帝的水平。

（郭意葱、郜钰萌、林小渠等多位同学在弹幕中也提到了类似问题）

A：如果以目前常用的基于神经网络的人工智能来看，人类的神经系统更多起到启发的作用，具体而言，人们是仿照神经元的联结关系构建了一个网状结构，内部的节点是基于统计模型来构建的，而这种模型并不能和人的神经元画上等号。目前技术条件下的AI还只是算法和为人类服务的工具。人工智能的人性化还很遥远。

去年3月“推动人性化人工智能全球会议”在巴黎举行，这个领域的相关工作才刚刚开始。而人类的自我认知能力到底是什么，这就和意识问题一样，不是目前我们的科研已经解决的问题，人工智能自然也不可能具备。

刘老师，您提到的trigger改变AI的认知的原理能再详细一点吗？

A：攻击者可以通过刻意构造输入数据，针对正常的输入????和期望的输出????, 向????添加某种模式的细微扰动得到????′，使得人类分辨不出????和????′的显著区别或者认为????′也是正常的输入，而两者经过模型的特征提取得到的抽象表达却截然不同并被映射到不同的输出，导致模型无法产生正确的预测结果????，甚至产生攻击者想要的结果????′。如果你对更多相关工作感兴趣，可以搜索一下对抗样本攻击。

将采用下面的随机方法（若有问题也欢迎指出），前几天刚好看到有大佬用了类似的方式，也参考学习。

上文示例表示中奖同学为第 6、20、77 位留言的同学，祝各位好运（听说在看、转发、分享更容易中奖哦）。

程序猿石头(ID: tangleithu)，现任阿里巴巴技术专家，清华学渣，前大疆后端 Leader。用不同的视角分享高质量技术文章，以每篇文章都让人有收获为目的，欢迎关注，交流和指导！扫码回复关键字 “1024” 获取程序员大厂面试指南。

未经作者授权，禁止转载

钉钉直播设置不允许下载该回放抓包下载过程演示（视频演示：52pojie 大混子）