什么是科学问题题

元科学问题
元科学问题
             安希孟
   比最奇怪的科学概念和理论还要奇怪、还要重要的是:在二十世纪晚期科学的理智视野中出现了上帝。现代科学的先驱和巨人如爱因斯坦、普朗克和海森堡等人对科学的“严格事实”和神学的构架,都感到亲切自然,都需要上帝,以便解释宇宙。
   爱因斯坦说:“我找不到比‘宗教的’这一术语更好的术语来表达对实在及其可以技人类心智认识的合理本性的信赖了。缺乏这种信赖,科学就会堕落为庸碌的过程。”
   普朗克说:“宗教与科学之间根本不可能有真正的冲突,因为它们彼此互为补充。”这一悖论一直存在到今天。霍金在《时间简史》中宣称,我们的目的应当是“了解上帝的思想”。“直到现在,大多数科学家一直过分地醉心于提出描述宇宙的面目的新理论,以致不关心‘为什么’的问题……如果我们找到这个问题的答案。那将是人类理性的最后凯旋——因为这样我们就了解了上帝的思想。”
   天体物理学家查斯特鲁(Robert Jastrow)在《上帝和宇航员》(现代宇宙论著名著作)中一开始就说:“仅靠相信理性力量为生的科学家们,他们的事业以噩梦告终。他攀登了一座无知的山峰;他正要征服最高峰,当他翻越最后一块岩石后,他发现迎候他的是一群神学家,这些神学家坐在那里,等了他们好几个世纪”。
   越来越多的大爆炸证据使无神主义宇宙论感到棘手。相对论和量子理论使科学从严肃的、可理解的活动进入神秘和悖论的领域,这同常识唯物主义正相反。生物学的进步只能使我们对生命的起源和本质感到困惑。
   卓越的科学家以理性为基础肯定上帝的存在,这一观念至少激发了一种好奇心——特别是对关于“宗教信仰在科学时代是不合时宜和神经错乱”的普遍假定感到怀疑。对科学与宗教相互作用的探究,是近认科学的伟大先驱者们所开始的探究的继续。近代不少科学家和科学理论对宗教问题出乎意料地表示同情。科学的近代发展的元科学意义,促进了当代科学家们的通俗的准神学著作。例如,霍金的《时间简史》、戴维斯(PauL Davies)的《上帝与新物理学》和《宇宙蓝图》、莱斯列(Johnleslie)的《宇宙》、查斯特鲁的《上帝与宇航员》等。
   从根本上说,科学事业是根据联系、规律、原理和模式来探讨对现存事物的解释。“解释”在这里指的是什么、如何和为何发生。科学探究的目的并不仅仅是发现和描绘世界上的事件与现象,而且更重要的是解释为什么这些事件和现象如此这般地发生。
   对现在事物的解释的寻求,并不仅仅包含对科学探究的对象的解释,而且还包含着:一、实在是可以理解的,可以被人类心智认识;二、实在是合理的,至少服从于某些先验的合理性概念。
   在不断地追寻解释(它为基础是可理解性和合理性的概念)的过程中,人类的心又碰到一个挑战,即解释宇宙的存在。“为什么有某物而不是虚无?”莱布尼茨这样问。“为什么?”这个问题既是终极目的问题,也是终极起源问题。要么,宇宙具有亿兆个银河系,要么,所有存在着的都是沙粒。这两个问题同样咄咄逼人。银河系或沙粒是如何产生的?它现在存在着,它为什么及怎么样出现的?它自己创造自己,还是它从来就存在于此,没有开端,也没有终结?但是,说它一直存在,这并不是对它的存在的解释。相反,这是一种推断的、高度思辨性的描述,这种描述不可能接受科学验证——怎么可能证明为质和能量没有开端和终结呢?描述不是解释。断言宇宙一直存在,并不是对这一理由的解释:即使我们承认永恒存在的宇宙,我们也不能解决对永恒存在的宇宙现象的解释和说明这个难题。
   科学和科学家并没有忽视这个谜,现代科学的许多辉煌发现和理论都是寻求对宇宙的存在的解释的副产品。作为副产品,它们并不是最终产品。数学和力学一直是合理而有效的思辨的对象。但是,终极起源的问题——对数学和力学的终极解释——仍旧使最有才华的理论家感到困惑,感到难堪。
   任何科学理论都不能解决绝对虚无与充实的宇宙之间的鸿沟。这个终极起源的问题是一个元科学问题——科学可以提问,但却回答不了的问题。汤恩斯 (Charles Townes)说 :“确实,物理学家希图透过‘大爆炸’来解释我们宇宙的起源,把它看作是振动……在我看来,如果仅仅从科学观点来看问题,起源的问题总是得不到解答,因而我相信,必须有宗教的或形而上学的解释,我们才能得到一个答案。”
   觉真荐自《读书》2000年5月23:39 | Tags 标签:
科学,所指并不仅仅是科学知识,至少还包括获取科学知识的过程:严谨的观察、 构建假设、设计实验验证假设、重复实验结果、修正假设、继续实验环节循环往复、提出新的理论,那么,无论是从事科学写作还是科学报道,你都必须对此有基本的了解,并掌握应对的方法。
嘉宾:Sheldon,科学松鼠会会员,理论物理博士;李虎军,资深科技记者
主持人:小蓟,南方人物周刊记者、科学松鼠会会员
活动日期:日
地点:同济大学中法中心二层
科学的复杂性和个人的局限性
本章内容整理自Sheldon的演讲《科学的复杂性和个人的局限性》
科学,被任意打扮的“小姑娘”
我们在理想当中一说起科学就是一些非常伟大的科学家,比如说达尔文,爱因斯坦,比如说居里夫人,那么现实中科学是什么样子呢?现实当中科学可能是一个任人打扮的小姑娘,也可能是一个争相依傍的大款,所以科学的理想和现实是有差距的,我们就来讨论一下我们在现实中的科学需要怎样去正确的认识它?
我的观点是,判断一个东西是好还是坏,首先要有一个科学的观点。科学的观点是来源于科学事实的,对于同样的事实,不同的人会得出相反的观点,当然在相反的观点当中肯定会有对有错的,面对复杂的科学事实,只有经过长期的科学训练、专业训练,掌握并运用科学方法的人才可能得出最可靠的观点,如果没有经过专业训练,介绍科学研究时,建议引用科学界主流观点的原文,不建议向读者介绍非主流观点,不建议自己做判断,不建议转述科学界主流观点。强调,不建议不引用原文,而是按照自己的理解用另外一种方式转述。因为科学的措词是非常严谨的,修改的话可能会产生别的意思,不建议在主流观点的基础上进行过度演绎,就是科学家说什么就是什么,不建议你推断科学家文字后面暗示着还有什么东西,因为这些东西都是需要经过专业训练的人才能做到的。
科学有多复杂?
我们来看一下什么是科学?什么是科学这个话题太抽象了,我们先来讲一个最简单的话题,什么是科学命题。比如说如果明天降水超过10毫米,那么车祸发生率将增加10%,这是一个科学命题。什么是不科学命题,青年老皇历说,明天不宜出行,这个就是不科学的命题。我们可以看到科学命题和不科学命题之间的区别,我们最常见的科学命题它的形式总是这样的,如果一个条件,那么一个结论。非科学命题首先不满足这样的条件,或者说即使它满足这样的形式的话,它得到的一个结论也是我们没有办法检验的,明日不宜出行,什么叫不宜出行,它没有说清楚,明天无论发生什么事情,你总可以找到一件事情来验证它说,你看,我说你明天不宜出行吧。所以这样的科学是非科学命题。
常见的科学命题形式就是如果A,那么B。但是如果A和B是一个公式的话,大家可能不会有异议,但是如果A和B表示的是用汉字或者用常见的语言写出来的话,那么在每个人脑袋里的反应是不一样的,比如说大家看到能量这个词就觉得这个词非常简单,大家都能理解,但是你们脑中的能量和理论物理学脑中的能量的定义是不一样的。所以同样一句话,在不同人的脑中是有不同的反应的,同样一个命题在不同的学科当中,它的命题表现形式也不一样,这就是科学复杂性的所在。
科学有多复杂?如果我们要报考大学的时候,你会看到有很多学科,比如说数学上面分一堆数学的分支,物理学又分一堆物理学的分支,这些科学为什么会有这么多分支,这些学科和学科之间又有什么关系?我们用生活大爆炸中的Sheldon的观点来看一下,这张图我是贴在微博上的,见下图。
为什么生活大爆炸中的Sheldon会看不起其他的科学家?我们来看这张图当中有很多学科,Sheldon在最上面的位置,Leonard是研究激光的,他大概在电磁学这样的位置,他们的好基友Raj,现在天体物理学就非常低的,连一个博士学位都没有的Howard,就去搞工程的,另外两个姑娘在什么位置呢?两个姑娘他们在生物学和医学之间,所以他们的位置非常低,最可怜的就是Penny了,因为她就不在这张图中,她研究的东西不科学。
这张图是什么意思?这张图是我从一个宇宙学家论文里面得到的,这个宇宙学家是研究多重宇宙的,他这个图要说明的什么问题?科学的体系就是所有的学科之间都是有联系的,并不是孤立的说。图的作者认为联系是从上一层学科的定律出发,原则上可以推导出下一层学科,比如说最上面有个问号,下面有两个箭头,一个是h→0,就变成广义相对论,一个是G→0,趋向于广义相对论,他的意思是什么?就是我们Sheldon研究的东西叫做大统一理论,就是我们有一个未知的理论,认为这一个理论是解释宇宙当中所有现象的基础。这个理论当中,不考虑量子效应的话,比如说h→0,那么就会变成一个纯的引力理论,就是广义相对论,如果你不考虑引力效应,就是G→0,那就趋向于量子场论,它的形式是可以变化这样子的,其它所有的箭头都表示这个意思,如果你从一个学科出发,把一个很复杂的现象放在里面,如果你有一个强大的计算机能够把它解出来的话,原则上你就可以把下一级的学科的定律给推导出来,这个是这个科学家的观点。越往下公式就越少,越往下文字的成分就越多,所以我们可以仔细想一下,我们平时在网上看到传播率很广的谣言都集中在右下角,因为造谣和传谣的人看不懂数学公式,他没有办法传播上面的谣言。
这些不同学科之间表现什么样的意思?这些学科都是统一的学科,它是一个体系,你不可能说我有一个体系是东方的科学体系,或者是我有一个体系是中国的科学体系,中国的医学,中国的物理学,中国的化学,这是不可能的,因为所有的科学都在一个体系中。对于这些体系不同科学家有不同的观点,第一种观点叫做还原论,还原论是什么意思?比如说我们要研究一个大的东西,就使劲往小里切,比如说我要研究一个生物现象,我就问为什么会有这样的现象?然后你的回答很有可能是一个生物化学的定律,就是生物化学当中,比如说细胞膜蛋白质它有这样一个规律,那么好,我的问题解决了。但是我又可以问,为什么生物化学中有这个规律?你就可以解释,这个蛋白质是用氨基酸组成的,这个氨基酸它的化学性质是什么样的? 最后,你就会用化学的定律来解释生物化学定律。如果我再问你为什么这个化学定律是这样的?那你就必须把量子力学搬出来,告诉我们为什么量子力学里面的核外电子排布,再加上里面核内的中子和质子的排布,最后导致化学元素会有这样的现象,最后为什么导致化学元素之间会形成了分子,会有这样的规律。当我问你为什么量子物理学是这样的,你就会用一个新的理论来解释。最后所有的理论都好像有一堆箭头出发,一直指向一直指向,指向一个中心理论,这样思维叫做还原论思维。
另外一种思维跟它是有一点冲突的,叫做层展论,它的英文是emergence,意思是说你在研究一个很微观的学科,你在研究一个很基本物理学现象的时候,你的研究层次和生物学研究层次是不一样的,有很多规律是只有在一定层次上才能体现的。打一个比方,比如说物理学定律,我们知道物理学定律当中有牛顿力学,或者有各种各样的热力学、量子力学,但是你从这些里面能够推导出进化论吗?你没有办法推导出来进化论,因为进化论是只有在形成生物以后,在生物和生物之间,在物种和物种之间这样的大环境中,在这种层次上才能体现出来这个理论,所以这就叫做层展论,它的意思是说虽然你可以把一个大的学科,就是像生物学、医学这样,相对于比较接近于生活的学科,还原成一个原始的学科,但并不是所有学科的内容都可以还原,而是说有很多东西是只有这个学科当中特有的问题。所以这是另外一种观点。
最后一种观点叫做模态实在论的观点,模态实在论的观点是什么样子?我给大家打一个比方,霍金在《大设计》这本书介绍,说:"我们每一个人都可以总结出来物理规律。"比如说我们扔一个球,这个球直线下落,我们可以总结出来一个匀加速直线运动的规律,但是如果一个金鱼在鱼缸当中,它看到这个球下落的轨迹是曲线下落的轨迹,那么它会在鱼缸当中总结出另外一套物理规律的表示形式,这个表现形式非常复杂,不是直线形的,但是你能说它说的不对吗?你不能说它说的不对,因为它看到的东西也是它真实测量到的东西,所以霍金最后总结到,我们同一个物理规律可以有不同的表现形式,这些表现形式可以完全不一样,你能够观察到什么,你就根据你观察的东西得到这个结论,你之所以把你的学科写成这样一个形式,是因为其它的形式你没办法去理解,没办法去观察,所以你得不到其它的学科,你只能得到这样的形式,这就叫作模态实在论。
它的意思是我们去认识世界的时候,都是基于模型去认识的。比如说我认识这个世界,我是一个生物的人,那么我去感觉这个世界的时候,那么需要世界外面输入各种感觉,打到我的感觉器官,我的感觉器官报给我的大脑,我的大脑特有的结构,对它进行特殊的分析,我才能得出这样的结论,然后我才能认识世界。我们想像一下,假如是变形金刚,他跟我们生物体是不完全不一样的,所以同样一个东西,在他脑中的反应是完全不一样的,他脑中建的模型和我们脑中建的模型很可能是不一样的,但是这两个模型之间,通过一定的数学变换可以联系起来。所以模态时代论认为,你对于同一个现象的同一个层面,也可以有不同的认识,只不过这些认识之间,应该是某种等向关系,而不是完全没有关系的。
还有一个例子,最近我们刚刚看到诺贝尔化学奖,诺贝尔化学奖在讲什么呢?就是有一帮化学家,他把计算机搬出来,用计算机来研究化学定律,他往里面输入的程序是量子力学的程序,横跨三个学科,他用三个学科之间的知识,从量子力学最基本的定律出发,推导出了化学反应的规律,他通过这样的方式,就能够用计算机去模拟化学反应,而不是实际去做化学反应,这就是一个例子。这个例子就是说我们能够从基础的理论推导出来现代的理论,但是在推导过程当中,我们需要做很多近似,所以这个推导过程本身是需要非常强的条件。比如说我们需要很强的计算机才能够推导出一点点化学反应,也就是说你这些推导是很难的,如果你要寻求一些化学知识,你还必须来到化学这个学科当中,用化学这个层面上的分析方法,而不是用物理学的分析方法去解决这些化学问题,所以这些学科之间的关系是非常复杂的,而且每一个学科都有它的适用范围,如果你硬把物理学的东西,那套思路用到化学里面,或者用把化学里的东西用到生物学里面,很可能会失效的,所以学科之间就是这样的一个关系。
我们在讲到科学表述时,刚才我强调说它可以有不同的表述。表面上看,我们要求总结出来的科学定律是一个客观的定律,但是实际上我们对科学进行表述的时候,是需要用语言文字或者是需要用数学公式的,每一种办法都需要个人印记,个人叙述没有办法摆脱主观。我们在科学传播当中要了解的一点,科学它有一定的主观性。
每一个人受到的教育不一样,每一个人的经历不一样,他也只能理解他能理解的东西,如果你没有学过数学,没有学过微分几何的话,刚才那个公式他给你讲一遍,你不记不住他在说什么,有谁记住刚才的公式在说什么?没有的。那是因为你没有这样框架,实际上如果那个公式用语言来表达的话,就是一句话,物质告诉时空如何弯曲。这句话是不是很好记,没有记住的请举手,我看大家都记住了。所以同样一个东西,你一定要按照对方能够理解的框架去表述它。
我来举几个例子。比如说量子力学,我们知道量子力学它的创始人是薛定谔和海森堡,薛定谔的名气非常大,有一个薛定谔的猫,他是“虐猫狂人”。刚开始量子力学出来的时候,大家都觉得非常难,为什么?因为海森堡刚开始提出量子力学定律的时候,他是一套矩阵,物理学家非常不习惯处理矩阵,数就是一个数,矩阵是一个方块,方块里面有一堆数,它要满足一定的算法。同样是量子力学,海森堡提出来就是叫矩阵力学,但是薛定谔提出来就是波动力学,就是波动方程,这是物理学家非常熟悉的,所以到现在我们的量子力学教材里面只讲波动力学,不讲矩阵力学,为什么?因为所有学生都非常容易接受波动力学,而难以接受矩阵力学,但是从数学上来讲,这两种表述方法是完全等价的。所以在传播过程当中,我们人只能接受自己最熟悉,自己能够理解的这些东西。
再举一个例子,有很多东西很美,我们会把姑娘比喻成一朵花,因为花很美,但是我们从来不会把姑娘比作爱因斯坦场方程,因为我们绝大多数人不知道爱因斯坦场方程美在那里。所以我们每一个人都要意识到自己的局限性,比如说网上有很多人在吵,觉得数学没有用,学数字在工作当中完全用不上,那是因为你不知道怎么用,所以你觉得它没有用,当你知道它怎么用的时候,你就会发现它有很多用处,这是一个悖论。
如何避免个人局限性的不利影响呢?我们要强调科学的框架,科学有一个非常让人不开心的结论,就是科学知识是垄断在少数专业人士手中的。从还原论的角度来讲,这个框架说的是认知的框架,不是具体的科学知识,科学家知道认识世界有这么多种方法,那么公众知道什么样的框架?公众只知道这么几种框架。比如说我刚才讲的广义相对论的那套微分几何框架,绝大部分公众是不知道的,所以科学家知道的框架比公众知道的框架多。什么样才是正确的框架?科学家知道的框架中只有一部分是正确框架,科学家要去经过吵架,经过长时间的斗争,才能够评议出来一个正确的框架,而这个框架和公众知道的框架之间交集是非常小的。因为我们人在进化过程当中,不需要知道科学就可以产生非常多的后代,所以我们绝大多数人是没有能力,天生下来就懂得科学的。所以我们有一个体论,当你去完一套命题的时候,科学家知道你错在哪,但是你自己不知道你自己错在哪。
我们来看一下不同框架之间的结构,这些框架之间是平等的吗?显然不是平等的。我刚刚在网上看到这样一个帖子,说有一个人胃痛,去医院看病,在他的认知框架当中,胃痛和心脏病是没有关系的,所以医生叫他去检查,在他的认知框架当中,医生要么是给他好好看病,要么就是黑心赚他钱的,所以他就把这个事情投射到心中,发现这个医生的几轮,其实是让我有一个不能理解的东西,那么这个东西一定是不存在的,既然不存在,那医生肯定是在黑我的钱,所以他最后得出的结论就是医生在黑我的钱,所以刚走出诊室的时候,他就心脏病突发死掉了。
个人的局限性
这样一个框架,我们需要了解到个的局限性,我们个人的局限性就是在于当我们否定一件事情的时候,往往不是因为这件事情不对,而是因为你没有办法理解它,所以你倾向去否定它或者去肯定它。我们刚才讲了很多科学命题和很多学科之间的关系,这些东西都是要依赖于科学框架,你只有在这个框架当中,才能正确理清他们之间的关系,如果你是要用自己特有的框架,那么你就会发现这些东西全是错的,这是很正常的。比如说槟榔致癌,凡是吃了槟榔就必然患癌症。我之前在讨论槟榔致癌的时候,就有一个人评论在骂人,说科学家在胡说八道,你怎么能说槟榔致癌呢?难道湖南人的祖祖辈辈都是癌症死掉的吗?他的逻辑显然是不对的,因为他没有办法了解在科学框架中,槟榔致癌这四个字表达什么样的科学义含义。
第二个例子是癌细胞在浓硫酸当中全部死亡,不等于癌细胞是潜在的抗癌药物。我当然举的一个是极端的例子,是用来讽刺某一些研究,某一些研究只要是癌细胞,然后找一个中药提取液泡一泡,然后就说这个癌细胞死掉了,说明这个东西有可能是治癌症的,然后第二天就开始报道,中药治疗癌症有望,就是这样的条目,实际上这个逻辑关系在科学框架中是错误的。
第三个是我们遇到一个关于转基因的报道,就是有人做研究,在人的血液当中检测到Bt蛋白,然后开始有人解读说,这说明人吃了含有Bt蛋白的转基因作物以后,这些Bt蛋白可以进入人的血液,就是说它有风险,实际上这样一个命题在科学框架中也是不对的,并没有排除误差,因为当你没有研发含有Bt蛋白转基因作物的时候,有很多人用Bt蛋白作为农药,在农作物田里面喷了很多含有Bt蛋白的农药,所以你在人体中检测到Bt蛋白,你还没有证明它是来自农药还是来自你吃的作物,你就直接下结论,这当然也是不对的。所以只有在正确的框架当中,我们才能够理解如果A那么B,这样的科学问题的含义,所以我们要强调科学框架。
科学框架最主要的一个特点,它在下结论的时候会排除噪声和误差,怎么样排除呢?我们看这样一个例子,一个微博的网友很有意思,她就讲,有一个女朋友,他的老公快结婚的时候,把前女友肚子搞大了,后来这个女的也没有崩溃,又找了一个新老公非常好。她就说后来的结论,所有的苦难都不是白费,只有经过这些才会补偿给你更好的人。这显然是一个非科学框架当中得到的一个结论。
那么科学怎么看呢?科学宅男说了,这叫做幸存者效应。有happy ending,才会回来说,那些在散心途中跳河了、卧轨了,被劫匪捅死的人,都不会出现在统计图总数N当中,所以才会一派祥和,然后这个博主就说,还是不要和这个人做朋友了。这是其中的一个例子,刚刚发生的。
实际上科学框架当中有很多非常常见人们容易意识到的错误,比如说疾病的自愈性,就是有的病你不治也会好,感冒吃药7天好,不吃药一周好,有的人说我感冒了,我喝了某某中药以后,果然到了七天就好了,说明这个药就能把感冒治好,实际上,这是你没有考虑到疾病的自愈性。另外一种就是安慰剂效应,最常见的安慰剂效应就是针灸,你拿那个针在你身上扎,你会发现扎了以后果然能够减清你的痛楚,但是实际上我们就做了好几种实验,有的实验是真的扎到穴位,有的实验是没有扎到穴位,故意扎外,有的实验是真的扎到肉里,有的实验是没有扎到肉里,只在表面上给它压进去,那么这些实验之间没有统计上的显著差异,就是说你没有办法排除里面的安慰剂效应,我不是说这个东西没有用,而是说你还没有排除安慰剂效应。
另外一个例子就是法国红酒效应,法国人喝红酒,法国人平均寿命比美国长,所以喝红酒有助于提高寿命,那有可能是反的,很有可能是因为法国人是比较注重身体锻炼,或者是饮食当中有一些别的因素导致他的平均寿命比美国人高,但是正好他喝红酒了,所以你认为红酒就是一个原因。还有一个是统计样本的偏差,统计样本的偏差,崔永元的例子就可以说明了,统计样本要选对,最有讽刺的一个例子,是我翻译的一本书当中说:"有一个人他要去研究鲑鱼的生活情况,他就去撒哈拉沙漠里面找了一圈,最后发现一条鱼都没有,就说明这个鱼在地球上是不存在的。"这显然是统计样本的偏差,你要是找是在水里面找,不应该在沙漠里面找。还有一个是统计陷阱,我们虽然没有学过统计学,但是经常会有一些很熟悉的统计学,两组研究,或者有对照图,最后得到什么样的结论,看起来非常合理,但是只有懂这一行的人才知道,这个里面是有统计陷阱的。比如说最常见的一个例子,某一个年级分男生和女生,另外一个年级也有男生和女生,年级A的女生当中某一些人的比例,和男生当中某一些人的比例,都比另外一个年级高,但是你把它加起来混合以后,那个比例就反而不如另外一个年级高,这是一个典型统计陷阱的问题,所以这些问题是非常专业的,你只有用专业的眼光才能够发现其中的问题。当你平时想去判断这个命题的时候,如果你想通过自己的能力去判断的话是很难的,包括我讲这些东西都是因为别人教给我怎么讲的,除了理论物理的东西是我自己的想法之外,所以很多东西你是需要求助于专业人士的。
最后一个是讲讲科学的流程,我们发表论文的时候,有的论文是我写出来直接贴上去,就叫论文发表,但是有的论文写出来,我要编辑交给我一个匿名同行,这个匿名同行经过评审,认为我的论文质量足以发表的时候才有可能发表,这就是叫同行评议制度,同行评议制度有很多漏洞的,每一个博士生在刚开始做科研的时候,都喜欢吐槽说:"审稿人什么都不懂,就在那样乱讲,把我的文章都打回来了。"每个人都经历过这样的阶段,虽然他是不完美的,但是他总比没有好。
我们来看这样一个例子,网上随便搜一下转基因,猪和胃炎三个字,你就会发现这样一条新闻,有人做了科研实验了,转基因吃了以后,猪果然生病了,这样一个研究,看起来是很严肃的研究,我们如何发现这个研究的漏洞呢?你去点开这个链接,然后去找这个链接的原文,你会发现这个研究的原文是一个非同行评议的研究,非同行评议就是说,任何人把这个东西写给编辑,编辑看得顺眼,就可以发,编辑看的不顺眼就可以不发,而编辑本人并不是对所有的论文,能够去界定它的科学性的,这是非同行评议的文章。这样的篇文章的质量来讲,它的评议水平肯定是不如同行评议的文章,再加上他引用的信息源,有别的科学研究的问题,这个我就暂时不说了。所以当我们去引用一个信息源的时候,我们一定要考虑清楚这个信息源的含金量是多少。
科学成就和头衔并不等于正确。我来举两个非常极端的例子,第一个是两届诺贝尔奖得主鲍林,他是非常厉害的一位化学家,大家都认为他是奠定了量子化学的基础。但是他有一个很奇怪的观点,他认为吃维生素C可以治疗感冒,而且他经常在公开场合推广这样的一种做法,但是受到了很多同行的质疑,现在我们有很多研究可以证明吃维生素C和感冒的治愈之间没有科学证据,但是他是一个诺贝尔奖得主,在我们中国人看来,诺贝尔奖得主说什么就是什么,诺贝尔得主肯定比院士水平高,院士肯定比教授水平高,教授肯定比博士水平高,博士肯定比记者水平高,但这是不对的,每一个人他无论说什么,他只有在他的专业领域内才有发言权,如果他出了专业领域,他想提出一些新颖的观点,我们必须小心他提出的观点。
另外一个极端的例子,是前一段时间的诺贝尔奖得主蒙塔尼,那个蒙塔尼他发现的是爱滋病病毒,但是他有一天突然闲着没事,他说他做一个实验,他说把DNA放在水里面,把水稀释一千倍,一万倍,稀释到里面最后什么东西都没有的时候,他发现这个东西能够发射电磁波,这个很奇怪,因为他是研究艾滋病病毒,他是一个生物学家,他根本不知道麦克斯韦方程怎么写,他怎么知道,他怎么确定他那个实验是不是噪声呢,他这里的知识也没有,任何一个实验室也没有办法复制出来他这个实验,虽然他是一个诺贝尔奖获得主,但是当他在胡说八道的时候,我们还是需要站出来制止他。
另外一个问题是主流观点的演进。因为我们做科学报道会有一个非常大的问题,就是说你今天报道这么一件事,科学家这么说,明天科学家又那样说,你会发现科学家反反复复,对一个东西几乎所有的结论,他都能够得出,那么这个东西到底应该怎么样去报道呢?我们首先要了解主流观点演进这样一个常识,就是说主流观点确实会随着科学进步而变化,但是主流观点它也有基础,有的主流观点有非常深厚的实验基础,有的主流观点就缺乏实验基础,比如就像这栋楼一样。所以比如说牛顿力学,你觉得你可以推翻它吗,你永远也不会推翻它,因为他的实验基础非常雄厚,但是如果我在物理学当中提出来,比如说霍金认为黑洞会辐射,那么这个东西有没有实验基础?这个东西没有任何实验基础,虽然它在理论上是合理的,而且大家都相信它,所以这样的东西很可能有一天被实验否定,但是像牛顿力学的东西,它不会被实验否定。
主流观点演进是有一个方向性的,刚开始我们会有一个旧的观点,比如说像牛顿力学,牛顿力学只适用于宏观低速的物体,那么当你要考虑宏观高速物体的时候,你就必须把它纳入广义相对论的框架,广义相对论的框架是包含牛顿力学的。有人认为爱因斯坦推翻了牛顿力学,实际上他并没有推翻牛顿力学,爱因斯坦只是把牛顿力学作为广义相对论低能极限的一个特例,它从概念上来讲跟牛顿力学是不一样的,但是当你取一个数学极限的时候,当你回到一个牛顿力学适用范围当中的时候,狭义相对论得出来的预言和牛顿力学得出来的预言是一样的,所以他并没有推翻。当我们有一个实验基础的时候,这个科学观点的演进是一个扩张的演进,而不是一个否定的演进,广义相对论也是一样的广义相对论就是考虑到演进的范畴,如果你考虑弱引力和慢场条件,你又会回到狭义相对论,或者你又会回到牛顿力学。
所以这些东西,很多人会认为这个东西今天这样说,明天那样说,他会变的,实际上在某些生物或者医学方面,它变得很正常,因为科学研究还没有前沿推到那个地位,那个地方还是一些未知的领域,所以它会经常变,但是对于某一个地方是不会变的,像我讲的这个观点。所以,我经常在报纸上看到有一些记者在报道某某某人,在研究某某东西,我觉得这个报道有点太浪费了,没有必要去报道它,因为这是不可能颠覆的。
另外几个例子,比如说之前有人曾经研究过,有一些鸡感染了病毒以后会得癌症,所以他认为病毒是癌症的病原体,但是后来这个观点被否定,或者说被修正了,我们现在知道,病毒是癌症的致癌因素之一,他不是得癌症的根本因素,根本因素是因为基因变异导致的,病毒只是一个诱因,所以当你发现这个观点变化的时候,并没有完全否定原来的观点,而是对原来的观点进行一个修正和扩展,一些细节的问题给讲清楚了。还有一个例子,可能大家高中的时候比较熟悉,比如说有的科学家之前认为光是一种粒子,有的认为光是一种波,然后大家吵了好几百年,最后我们现在用量子场论来描述光是具有波粒二象性,它是一种概率波,但是它相互作用是在一个点上的,所以它把原来两个相互矛盾的观点给融合到一个框架里去了,所以这种情况,科学观点的演进有好几种方式,当你去报道一个科学观点的时候,你要搞清楚,它现在的主流是在大量实验基础上的主流,还是说有一个针锋相对的一个观点的主流,还是没有任何实验基础,只是大家推测它是一个主流的观点,所以这是不一样的。
主流观点和替代观点有什么区别?主流观点和非主流观点不是平起平坐的,它往往是高帅富和矮穷挫的关系,在缺乏实验基础的时候,主流观点和其他观点可以不分伯仲,屌丝也可以逆袭,但是在带有实验基础的时候,我们尽量去报道主流观点,不要去提及非主流的观点,首先你是学过这些东西的人。
科学的自我纠错
下一个问题是科学界能够自我纠错的。它出现错误的时候是可以自我纠正的,比如说前面有两位反转基因的人士,也用了中国科学家的研究,他说这个东西就说明这个转基因的问题转的怎么样,但是实际上这个研究,后来国外的科学家没有把这个研究重复出来,所以大家怀疑这个研究是不是有问题,那么这样一个问题后来又发生什么样的情况,这个科学家本人其实就是否定它的实验论文的审稿人,科学家本人非常鼓励别人去质疑他的研究,他认为只要别人关注他的研究,就说明他的研究是重要的。然后他就质疑他的那个人的研究,然后就相互质疑相互吵架,这个过程会持续很长时间,直到大家达成共识。所以说科学界它能够自我纠错,它一旦有错误的时候,如果这个科学家错了,那么指出他错误的往往是另外一个科学家,我们没有经过这个领域专业训练的人,你很难发现他的错误,所以大家平时不要热心于纠正科学界的错误,因为它能够自我纠错。
圈外人士不宜纠错,这是我从小就喜欢的著名漫画家,蔡志忠。他非要推翻相对论,还出了几本书,后来我去看了一下,他的书里面全是汉字,没有公式,一看就是不懂。所以这样的圈外人士不宜纠错。当然这是一个极端的例子,因为我们都知道相对论是很难懂的,但是我们平时生活当中有很多科学研究,听起来大家是觉得,有些科学研究可能有的人是非常不相信的,比如说关于高压电是否致癌,或者说关于微波炉辐射到底对人体有没有害。很多人都有这样的观点,你说的这个东西我不信,因为你们这些科学家我也不知道你们是怎么研究的,而且你们有可能收了别人的黑钱或者怎么样,反正你们说的东西我不听,我就是以坚持我自己的观点,实际上这是没有必要的,因为当科学家犯错的时候,他自己是能够纠正的,不需要你去不信。
我们来讲一下在公共问题上出现的问题。我们有三个问题,第一个是黑洞信息丢失问题,第二个是三峡大坝的后遗症,第三个问题是第四代核电系统的安全性。我们粗看一下第一个系统,第一个问题不知道它在说什么,如果我去媒体上大声疾呼,大家一定要重视黑洞信息丢失的问题,可能没有人去响应。第二个问题,如果我做出一个判断,不管这个判断是什么样的,比如说三峡大坝对地震没有影响,或者三峡大坝就是导致某某地震的根源,那么就会有很多人响应,要么反驳我要么支持我,那么第四代核电系统也是一样,如果我说现在最新一代的核电站是安全的,可以建在门口,大家不用担心,那么肯定会有很多人骂我,这是为什么?就是因为我刚才讲的框架的问题,第二个问题和第三个问题,大家自认为能理解的,大家自认为能理解以后,大家就自认为对这些科学事实有判断的能力,实际上后面两个问题和第一个问题的专业性是一样的,所以我们要小心,我们不要受主观的情感或者利益的影响,而去扭曲对科学的认识。
我再次重申一下观点,就是当所有公共问题都涉及到价值判断,这些价值判断必须参考一下科学观点,科学观点就是基于科学事实的,从这个层面来讲,所有人都知道这么一条信息链,没有人说我就要通过跳大神来解决一个公共问题。但是在同一个事实面前,不同的人会得出完全相反的观念,我们每天吵架就会发现,不说一个科学事实,就比如说前一段时间习总书记讨论一些关于粮食安全的问题,那么反对转基因的人拿出来说,这就说明他在反对转基因,这明显是对于同一个事实得到完全相反的观点,为什么会有这样完全相反的观点?每一个人的认知框架不一样,有的人他故意扭曲对世界的认识,故意筛选对自己观点有益的认识,那就是一种错误的科学框架,只有经过长期的科学训练,才能在复杂的科学事实面前得到一个正确的观点。未受科学训练的人介绍的时候,建议引用原文,因为这些原文是科学家经过推敲非常严谨的话,如果你去修改的话,很有可能把他的原意给扭曲了,最后一个是不建议介绍非主流观点,不建议这种判断,不建议转述主流观点,也不建议在主流观点基础上进行共同演绎。
下面两个部分,我来简单的介绍一下。公众对科学的误解和公众常见错误的思维。第一个是非科学框架和科学框架是平等的。就是吵架,网上吵很多架的时候,有的人就认为占星、星座和天文学、心理学是平起平坐的,有的人认为西方的医学体系和中国的医学体系,也是平起平坐的,这种看法对不对?我们可以举一个极端的例子,刚刚在网上看到的一个中医支持者发表的观点,中医支持者认为西医定义的死亡和我们中医定义的死亡不一样,中医认为如果这个人还在吃饭,还在喝、还在动、还在走,但是他有可能已经死了,这样一种框架和科学框架是不是平起平坐呢?可能有的人认为它可以平起平坐。但是我大胆的问一下,有谁愿意把这样的框架纳入司法体系作为法律证据。就比如说:"我认为你犯了故意杀人罪。"你说:"我没有杀人,那个人还是好的。"我说:"虽然他看起来是好的,那是你们西医的观点,在我们东方人的智慧当中看来,他其实已经死了。"有的人活着,他已经死了,所以你犯了故意杀人罪。我想绝大多数理智的人,不管你是支持中医学还是反对中医学,可能在法律层面上,你可能是不建议把它放入司法体系的,所以在做这些事实判断的时候,我们一定要强调科学框架。虽然科学给出的观点也有可能是错误的,但是它错误的概率要远远小于非科学框架给出的观点的错误的概率,所以我们要倾向于相信它。
另外一个观点是主流意见无故打压非主流意见,这种观点当然是错误的。比如说同人于野,他是一位科普作家,他在网上介绍魏格纳的板块学说,魏格纳刚开始提出来的时候是没有任何科学证据,他只是看到他可以拼起来,他就认为地球的板块是在运动,当时所有人认为地球的板块是静止的,当时他这个东西当时不被科学界接受,所以现在已经变成科学的主流观点。所以人们认为虽然非主流观点被打压,但实际上它有一天可以变成主流观点,但是这也是一个错误的认识,为什么?因为这是一个自发的过程,不是有人说我要保护这个非主流的观点,要给它说话的机会,所以他才能变成主流观点,跟大家没有任何关系,是科学界自发的过程,其次它这个过程也是基于科学证据的,因为当时的技术手段没有能力去探测地球的运动,当这些技术发展出来,我们渐渐找到这些科学证据的时候,科学家就自然就倾向于这种观点,所以我们不要在非主流和主流之间进行自己的判断,它自己会搞清楚的。
还有一个例子,比如说物理学当中盖尔曼的夸克理论,他认为组成物质基本的例子当中有一群夸克,比如说一个中子当中就有三个夸克,当他这个理论提出来的时候,大家的反应是这样的,盖尔曼也是一个功成名就的人,犯这点小错也是可以理解的嘛。但是现在,它是一个主流观点,而且他因为这样一个观点得到了诺贝尔奖。所以这些东西都是我们不用去过度操心的东西,非专业的人就不要掺和了。
另外一个错误就是今天的科学知识明天可能会变成谬误,实际上这句话是不对的,这就分情况,我刚才已经讲过,当他没有实验基础的时候,他很有可能被实验逆转,当他有大量实践基础都被重复了,已经排除了很多误差的时候,他不已经被逆转,只有可能被细化。打一个比方,我们刚刚在实验中看到的,类似于希格斯玻色子,或者叫做一个希格斯玻色子这样的现象,因为我们有大量的实验,这个实验的精度已经达到99.9999%,非常高,这样一个实验会被颠覆吗?不会被颠覆。什么样的观念会被颠覆?他认为他找到了一个希格斯玻色子,但是他不知道他找到的希格斯玻色子是哪个模型当中哪个希格斯玻色子,这些后面的问题是可以被颠覆的。所以我们对一个观点要有自己正确的认识。
还有一种错误的认识就是反工业化、反科技的问题。他认为,所有的现代社会问题都是科学技术带来的,如果没有科学技术,就没有现在的这些问题,但实际上是不对的。比如说,我们看有一本书叫《崩溃》,《崩溃》里面介绍在原始社会的时候,复活节岛上面的人都死光了,为什么死光了?他们把当地的树都砍光了,最后就没法活了,人非常非常的少,从一千多人下降到只有几个人,那么这就是农业社会对环境的破坏,封建社会才会有。
科学研究给出绝对确定的结论,这个结论当然是给不出来的,比如说地铁门绝对安全吗,没有任何一个人能保证它绝对安全,你只能保证他,给他一个确定的标准,告诉他满足这个标准,它已经足够安全了,任何一件事情都是这样的。像科学家不能正式科学技术的负面影响,这是错误的,因为科学家是可以正式的,比如说DDT,实际上在写出来之前,可能科学家已经研究出了DDT对环境的破坏,科学家不可能不知道。还有一个就是气候变化,虽然很多人不相信气候变化,但是科学家确实在研究科学技术的负面影响。
最后一项讨论一下常见的思维误区。喜欢故事胜于统计数据,这个误区今天已经被我利用了,因为我给大家讲(我的观点)的时候,举了很多实例,我没有引用科学数据,所以因为我给大家讲,大家比较容易接受事例,而不容易接受科学数据,这是一个误区。还有寻求认同。我先预设一个观点,你说什么,我就从中挑我信的,其它东西我不信。不重视偶然和巧合在生活中的作用。就比如说炒股,有的人非要把那个随机事件弄出一个规律来,还有一个是错误地感知我们的世界,比如说一杯咖啡,那杯咖啡上面有一个图案,信教的人咬定了,那就是耶稣显灵,从来没见过耶稣画的人就不知道那个上面是什么。还有的是过分简化,很多复杂的事情不会考虑,非要用一个非黑即白这么一个框架,还有的是记忆有缺陷,这个是有一本书就叫做《误区》,今天打算给大家作为问答礼物的,但是这本书现在还在路上,所以大家有兴趣的话可以下次再来,下次会送大家这本书。
热点新闻中的科学
本章内容整理自李虎军的演讲《如何报道科学的复杂性》
大家关心转基因,现在媒体上转基因态势,科学界主流观点和公众的主流观点明显是不一样的,这种局面和媒体有很大的关系,媒体在这方面的作用非常之大,到了今天,我想不仅仅是说媒体这个概念已经是在外延的,不仅仅是指做专业记者的人,其实在座的每一个人都可以是做传播的人。我在看到报名表里面有一个同学说了这样的一个问题,他的疑惑,他说他看到61个院士关于转基因的产业化,包括25个诺贝尔奖获得主,很多年前的公开信,他同时也看到在广西大学生因为吃了转基因玉米,他们的精子质量开始下降,所以他不知道怎么样面对这种疑惑。
当时我还在财新新世纪周刊的时候,我做关于转基因的cover story,所以找到这个广西大学做研究的人,其实我打电话之前就知道会得到什么样的结果。第一,关于广西的玉米,其实至少说在提供玉米的公司说,他们是杂交玉米,不是转基因玉米,也没有公开的证据证明他们是转基因玉米。第二个因为精子质量有很多因素,包括环境方面,他们在涉及当中从来就没有针对玉米这一项,所以它这个东西肯定是站不住脚的。最近这一段时间,好像转基因事情又比较热起来了,就是最近几个月,比如说新闻调查在报道,又是什么新闻直播间诸如此类的,而且看央视开始在给转基因说好话这种声音多起来的,农业部也比以前更加积极一些了,说我们在做动物实验。包括中储粮又是使大家更关心了一下转基因这个事情,当然中储粮的事情是它违规,并不能代表这个转基因菜籽油本身是有问题的。包括甘肃发布一个禁止用转基因种子的种植,这个很奇怪,他们禁止转基因种子的种植,但是不禁止转基因食品的销售。
崔永元最近也是一个焦点,我们看一下崔永元是怎么调查的,小崔在他的腾讯微博上说,到底有还是没有转基因,他说没有发现这样的标注,这个图可能看不清楚,其实那个标识就是非转基因的标识。比如我是学化学的,那我要去做转基因报道,我肯定要去看很多大量的基础。
去年中国的大豆,国产大豆是一千多万吨,进口差不多是六千万吨,进口的差不多都是转基因,所以已经超过七成了。刚才还讲到转基因番茄、薯条很多都是转基因,这个完全是记者不了解的情况。我们吃到的第一肯定是大豆色拉油,第二个就是少量的菜籽油,第三个是木瓜。所以大家在转基因和反对转基因,完全是两个不同的发言体系,而且都是自说自话。
关于61个院士这个消息出来,被很多人成为汉奸的张启发院士,他们在那搞了一个转基因试吃的活动,就有人在那发言就开始大骂反对转基因的阵营,包括顾秀林等等一堆人,不只是他们,还有刚才有同学说自己是学文科的,他始终强调自己是对的,而不是说怎么样去站在对方的角度,至于反对转基因的人更是自说自话了,当然有人,比如说顾秀林,有人批评说当年怎么抛弃他父亲在文革之间,我觉得如果我写报道不会写这样的事情,因为没有必要去对他的人身进行攻击,这个和他对事物的观点也没有关系,而顾秀林反过来骂北大的饶毅教授也很逗,说:"你说什么转基因,你也不懂,你不过是研究然后这个果蝇的顶级专家。"然后饶毅很高兴地说:"我如果是研究果蝇的顶级专家,我就可以获诺贝尔奖了。"所以这完全是两个化学体系,这个化学体系其实最根本的就是科学问题,我觉得科学问题根据今天的时间问题很难展开,而且我要展开说完了,我也担心会出现漏洞,因为我也不是专业人士。
其实转基因,它引用基因的过程可能是加速了这个过程,比如说和传统的杂交相比。更重要的问题是这个基因本身是不是可能带来风险,而不是说转基因这个技术。这也是我接触到的,包括以前的英国首相布莱尔他的首席科学顾问,包括25个诺贝尔奖,他们写的签名联手的公开信,都是提到的,更重要关注的是这个基因的本身,对于转基因是一个具体案例具体案例去评。
比如说法国有人发个论文,讲这个影响老鼠的生育,但是后来应该是欧洲食品安全局,他们组织了一个独立的科学委员会,对它调查进行了科学评估,指出它实验室存在很多缺陷,就说这个东西是不能成立的。
还有一个现象是说,其实差不多是十年,十年来转基因的争议在中国是不断地发酵,我听到的观点不只一位科学家,和中央的农业部门,有接触的不只一位科学家听到这样的观点,今天之所以造成现在整个公众,因为在座肯定对转基因接受率远远高于整个社会公众的,因为大家掌握的知识可能会更多一些,之所以造成今天这种局面,和我们自己政府部门的作为是有一定关系的。
十年前,绿色和平就开始在中国对转基因开始提出批评,他们最早挑中的是转基因的棉花,从它的环境影响,那时也是我比较早写转基因的报道,写了以后,很多同行很惊讶地问,你怎么能报道转基因?说现在转基因干脆碰都不要碰,不允许报道。而且写这个东西也是比较逗的,我比较中立,我没有站在哪一面,我就报道了这个绿色和平的质疑,然后又引用了科学家对他们的质疑,认为他们都是胡说八道诸如此类的,后来两边都不喜欢我,两边都骂我的报道,当时我们的政府部门,包括批评转基因的声音是比较放纵,当然如果严格管制这种做法是不对的,它甚至是不允许媒体去展开辩论什么之类的,他觉得有人批评是好事情,为什么?他觉得说这是会成为贸易保护的一种手段,因为明显中国在转基因大豆什么方面都是不行的,这样就可以为自己提供一些便利,结果中国人对大豆色拉油的需求太旺盛了,进口的量从1996年的可能一百多万吨,到现在快六千万吨,这是挡不住的,就算我们响应黑龙江大豆协会的号召,中国听见禁止转基因大豆,那中国人的大豆从哪来,黑龙江那块土地绝对供应不上,缺口大着呢。这种奇怪舆论管制环境下,反而反对转基因的声音是一浪高过一浪,这是一个非常奇怪的现象。
接下来再举两个例子,最近你看看昆明的PX事件又成了大家关心的话题。
什么是PX?PX其实是一种低毒性的化学物质,低二甲苯,它的用途就是我们穿的衣服,最后做成聚酯,可能我们每个人身上的就有来自PX的东西,而且在中国很多地方都是有PX的项目。比较有意思的就是大连的故事,因为一次好像是风暴还是风浪,所以PX项目的防波堤出现问题的时候特别紧张,所以在周末至少是引来上千个大连市民上街散步,这时大连的市委书记站出来的,当场就对这个散步的民众说:"我们保证要把这个厂给搬走。"他为什么敢这样说?因为当初建这个厂的决定不是他们这个班子做的,是上一个班子做的,实际上PX这个项目距离大连有多远呢?我没去,但是我的同事去了,应该好几十公里。当时为什么要建?可能信息透明也不是很公开,现在要搬走了,这个决策也是比较仓促草率的,政府要把PX项目搬走,肯定要补偿这个企业,因为当时它也是合法的,搬走的这些钱从哪来,肯定从散步的大连市民身上来。
再来看这个需不需要是一百公里,实际上包括在国外类似PX项目也是几百里是不可能的,但是可能是几公里,两公里这样的尺度也是有的,但是在一百公里反而是不现实的,也是没有必要的。但是在中国,确实关于这个防护距离应该是多少?我当时问过真正研究这个问题的专家,他们给出的一个说法,其实他们在做研究,但是这样的研究做的其实是很不够的,比如说南开大学,他们就有人做过一项分析,就是中国虽然有那么多的化工园区,但是对于重大事故风险确实有很多基础还是不够。
再举一个塑化剂的例子。去年这个话题是比较热的一个话题。有人相继跑出来说,他们超过卫生部的标准,然后股票就降的很厉害。但是我们在谈塑化剂的问题,思考题当中有一句话:离开了剂量问题谈毒性是耍流氓。这句话是非常正确的,塑化剂按照世界卫生组织,其实中国卫生部没有一个严格的标准或者什么东西,它只是一个大概的推荐,按照世界卫生组织的指南,包括英国,确实是每天摄入多少的量,你才能够,而且是长期摄入才能会对健康造成影响,当然你说像台湾的塑化剂那样,人为的往食品里填入塑化剂,这种行为肯定是非法的,不允许的。但是现在,如果你是一位母亲,可能在你的乳汁里面也能检测到塑化剂,因为我们的环境已经被塑化剂污染了,所以关键问题是量的问题。
本网站作品采用知识共享署名-非商业性使用-禁止演绎 2.5 中国大陆许可协议进行许可。
(C) &&Designed By &&&基于

我要回帖

更多关于 隐身 的文章

 

随机推荐