一场关于人工智能的有趣对话

在2019年世界人工智能大会上，有一个饶有意思的对话。阿里巴巴总裁马云充满信心地说，AI（Artificial Intelligence，人工智能）可以解释为“阿里智慧”(Alibaba Intelligence)。特斯拉公司首席执行官马斯克（Elon Musk）楞了一下，轻轻回应说，“那最后还真有可能（It might end up being true）”，或许马斯克在想，这也是他自己想做的。马云后来又说：“在我的一生中，特别是过去的两年多时间，当人们大量谈论AI，认为机器会控制人的时候，我十分不认同。那是不可能的事情。人是不同的，机器是人造的，根据科学,人不可能造出比他自己更聪明的机器。人很聪明的，而且还有很多聪明人。他们不可能造出比自己更聪明的机器（来控制自己）。”马斯克这次的回答却非常敏捷明快：“我太不同意你了（I very much disagree.）。”这段对话既显示了中国企业家对未来的憧憬和人定胜万物的信心，也反映了美国企业家坚持理念，不轻易放弃对科学能力的认同的精神。

马斯克认为，与计算机比，人其实很笨（very dumb）。机器已经在很多地方比人聪明，能做到人做不到的事情。人们往往低估AI的能力，以为那只不过是另一个聪明人的出现。“我们实际上已经开始进入半机器人的状态（Cyborg）。很多人都离不开手机、电脑或助听器等辅助设施，将其作为自己能力延伸的一部分了（将来还有神经元接驳）。”高性能计算机的诞生，让一小部分机器不如人的地方越来越少。“人工智能进步的速度真是太快了，将来人的作用可能只是一个计算机编码的功能，去启动一下机器，就不需要了。到那种情形出现的时候，我们该怎么做，我不知道，真不能确定（What do you with a situation like that. I don’t know. I am not sure.）。”

人工智能时代的来临对现有社会秩序形成前所未有的挑战

两位引领互联网时代革命的企业家的对话，是对人文社会的共同关怀，展现了对未来技术挑战的两种态度。马斯克作为在技术前沿的工程师企业家，对AI自然有深入的认识。虽然上个世纪五、六十年代以来，人工智能的炒作并不成功（因为当时理论与实践的差距太大，中间需要填补的空白太多，那时的人工智能科学家依然不免要继续坐冷板凳），但在计算机和物联网技术大踏步发展的今天，计算机的数据传输能力、储存能力和算法能力都进展了百万倍以上，很多过去不可能的事情现在都成为可能，如超大规模的数据库管理、基因系列的排序、蛋白结构的运算等等。

很多人不太重视的人机对弈的故事，描述的就是AI技术进步的轨迹。这是个漫长和复杂的过程，简单说来，先是计算机与简单方格棋（Checker）的对弈，后来是IBM深蓝（Deep Blue）与国际象棋手的对弈，这时的计算技术相对简单。到“深脑”公司（DeepMind）开发的“阿尔法围棋”（AlphaGo，又音译为“阿尔法狗”）与围棋手开始对弈时，计算机的能力就开始引人瞩目了。“阿尔法围棋”输入30多万盘世界围棋冠军的残局做底，与世界冠军李世石下了五盘棋，四胜一败。“深脑”公司被谷歌收购后，不断有了新的改进。谷歌的技术人员拿回去复盘，发现机器人输的那一盘棋是因为对手下了一步在30万盘棋里没有出现的棋，于是团队的一位华裔科学家发明了一种“残差算法”，把围棋中剩下的80%的可能，也就是人类30万盘棋的经验里没有的可能都算出来了，围棋一共有10的176次方种可能，比宇宙里所有的原子数量还要多（10的80次方），这就是第二代机器人“阿拉法围棋零”（AlphaGoZero）。“零”的意思是它不需要向人类学习经验，把法则输入即可，后来甚至不需要法则，只须自己对弈，每秒钟下200盘棋，把所有的棋步都走一遍。这就好比不向武圣张三丰学武功，靠高速度自我对弈，自学武功，把所有可能的招数都走过一遍。7天走完30万盘棋子，40天学完所有的招数，人类没有的也学了，招招不忘，天下无敌手。后来的对弈成绩是100比0。再到第三代的“阿尔法叠”（AlphaFold）,用一个蛋白的基因系列，算出超级复杂的蛋白的三维结构，可以节约下买一千万美元的电子冷冻镜等描述蛋白结构的仪器。

要回答机器是否比人聪明的问题，并不是完全没有办法。聪明的定义是什么？感知学习能力、记忆力超强、反应敏捷这三个基本特点，机器在后两项能力上绝对远超人类。机器有巨大的知识吸纳和储存能力，过目不忘；有高速运算检索，随时回答问题的能力。前一项能力，机器也在人的辅助下不断改进，从阅读、声音转换，到图像、电波和光信息接收，包括选择判断能力（如“华生医生”程序）都在日益精进。从20世纪初莱特兄弟发明飞机到今天的一百多年的时间里，飞机的变化不可同日而语，而AI在近年来的进步，更是令人吃惊。有专家说，AI一周的学习就能够吸纳人类2000多年的知识积累，六个月的智能进化能力超过人类的50万年。

当然，人的能力比机器更多元，但计算机可以用速度进行弥补。根据脑科学家的研究，人的大脑中神经元之间的沟通有200多种方法（分泌不同的化学酶介），但计算机只有一种——“0”和“1”。但人脑的信息传递不够稳定，只有30%成功率，其它的也就是我们说的“忘记”了，传递速度也比较低，为每秒200公里左右；计算机虽然只有一种方法，但速度是每秒30万公里。如果这些数字正确的话，让我们做一个游戏性的算术：人脑的信息传递速度为：200（种方法）× 30%（接受率）× 200（公里/秒）=12,000，机器的传递方法：1（种方法）× 100%× 300,000（公里/秒）=300,000= 12,000× 25。就是说，在单细胞传递的信息的情况下，计算机的信息处理速度是人脑的25倍。2007年1月因特尔发布的65纳米的酷睿2四核处理器，就含有5.8亿个晶体管；而2013年的酷睿i7-4960X，制造工艺为22nm，晶体管数量达到了18.6亿。如果将这些2厘米左右的芯片处理器（processors）并联起来，计算机的能力就会大大提高，可以超越人的智慧的并联。因为，一个人学会了，另一个并不会，还要沟通协调；而一个机器会了，所有的机器就都会了，基本没有协调成本。机器比人缺的是“意识”（consciousness）,而这种意识，被分解成理性和情感后，会发现情感是阻碍理性的因素，而且，情感也并非不能被机器语言表达。

当然，在人工智能能力的研究和描述方面，有人“咋呼”多，往往言过其实；有人专注于单项研究，兢兢业业。很多人可能不会有突破，也有人会抵制和批评这一技术。抑或有人取得了研究突破，但得不到关注，长期默默无闻。不过，这些群体的努力、积累、思想、方法最终会以不同的形式被社会所认知、表达（成为公认的观点）和运用。不同的研究成果被社会接受的时间有长短，但终归都会有一天得到认可，并以“涌现”的方式出现在我们面前，让我们措手不及。

马云其实说得很好：“我就那么傻，要与机器比下棋，与汽车比谁跑得快吗？”但问题是，你不比它，它要来比你，它要抢夺你的工作，你的幸福感，甚至生命权。到目前为止，弱人工智能的机器人，如精密焊接、精密芯片刻制、负重搬运，无人机、精密制导的能力早就在人类之上，比较强的人工智能如人脸识别、情感对话、知识交流、音乐欣赏能力等也在迅速提升。如人脸识别的误差率，机器只有3.5%，低于人的5%；自动驾驶辅助的汽车事故率，是没有辅助的事故率的1/4。在许多工厂，包括零件加工、焊接、玻璃制造、产品分装运输、轧钢、甚至汽车组装，机器手、机器人已经形成了巨大的就业替代效应。未来的世界，机器人生产、自动车送货、自动交易、提供知识和信息咨询的现象将大量出现，按《未来简史》作者的说法，将会出现掌握和使用机器人的人（神人），和被机器人替代的人（无用的人）。社会的过渡、世界的稳定、人类的和谐，将会首先在劳资关系、社会贫富关系、未来教育关系、人的能力与发展的关系（如有植入的知识下载能力的神经元链接）、生命的不平等（辅助肢体能力，DNA改造等）和社会福利关系等多方面涌现。说到底，智能机器的问题还是人类自己的问题，是人们如何驾驭技术，处理好自己的矛盾的问题。

公共治理创新刻不容缓

公共治理是人类使用理性，特别是集体的理性、智慧和组织能力来管理和协调自己的生活，与人类自己和大自然和谐共处的努力。公共治理的能力受“公共能力”的影响和制约。马云说过，我们有很多聪明的人，但社会互动历史告诉我们，很多聪明人生活在更多的普通人之中，他们在一起的决策结果大多数情况下只是平均值，并不一定是优秀智慧结晶的正向和。因为公共能力的决定因素不一定是最优秀能力和智慧的集约，而是由社会的整体认知、群体所支持的领袖能力、社会整体的行为能力、社会群体文化意识、社会发展阶段、制度能力和外部环境等等影响和制约的，加在一起，就是体制机制能力。人类终究要解决自己的问题，有的解决得好，平稳过渡，国泰民安；但有的解决得不好，以动荡、战争、甚至毁灭告终。应对技术创新和社会力量的变化，需要有新的人类治理机制。

事实上，新技术出现本身也是人类治理体系运行的结果。因为，技术的产出和创新，需要依靠人才能力的发挥，而人才能力的发挥，靠的是人才的生存环境和体制环境。有了好的技术，还需要有技术与资源、市场的良好结合，这一点，需要靠适应新技术的企业的组织能力和竞争能力。而企业组织处于国家政策和国际环境之中，其潜力的发挥需要靠国家制度和治理体系的创新。所以，技术创新、组织创新和国家公共治理体系创新三个层次环环相扣，互为依存，密不可分。

科学技术的不断突破，提高了工农业的生产力，提供了新的能源，给人类带来了巨大的福祉，但也带来了前所未有的能够毁灭地球的能力。能源耗竭、生态污染、气候变暖，大规模改变环境的工程，加上巨大破坏性的核武器，使今天高度发达的人类文明，比历史上任何时候都更加脆弱和缺乏韧性，也更需要进行针对性的“技术”治理。

对于突飞猛进的科学技术发展，我们一方面恨其不足，有了想要更多，好了还要更好；但另一方面，我们常常对新技术的到来准备不足，没有想好如何有效驾驭这些技术，让它们在带来福祉的同时，不造成或少造成破坏。比如说，英国的蒸汽机革命，污染了环境，摧毁了传统的农业社会；美国的大农业，将印第安人赶入深山和沙漠，将小农场主排挤到社会的边缘。再如，希特勒在德国钢铁工业大发展的基础上，挑起了世界大战；二战时日本在航母和海军航空兵实力迅速壮大的基础上，悍然袭击了珍珠港，造成人类文明史上的空前浩劫。二战后，以联合国等世界组织为代表的世界新秩序在防止战争、协同应对自然灾害、提供国际援助与维护世界和平方面做了不少工作，但近年来的逆全球化思潮又开始挑战这一本就不够牢固的国际秩序。黑格尔说过，人类从历史中得到教训就是，人类从来不记取历史的教训。一位香港学者也曾形象地比喻，人们往往驾着历史的巨轮，重复着过去的悲剧。在信息资讯高度发达的今天，我们重复历史错误的概率本该越来越小，但新技术带来的新挑战却往往是历史经验中没有的问题。新技术带来新的生产力变革，需要的正是上层建筑结构的改变和国家治理体系的创新，新技术的出现或许是新制度形成的启示，而新制度更是新技术成长和发展的温床。十八大以来，党中央提出创新体制机制，提高现代治理体制和治理能力，就是呼唤制度创新的号角。

在理论上，大家都知道技术是工具，人文诉求才是社会发展的目标。但实践中，人们却一直在重复着用工具理性替代人文目标的错误，包括今天的科技崇拜和数据崇拜，忽略技术对于人的侵犯。一个简单的例子就是当前普遍使用的AI刷脸技术。通过机器学习，AI能够成功识别和储存人脸特征这一重要的、终身的生物数据，理论上对于防范犯罪有极大的威慑力，但这一技术也同时有深度的隐患，它不仅损害一般公民的个人隐私权和尊严感，也可能对人民的生命财产安全造成新的、过去未曾想到的威胁。比如说，一个小小的航拍器在数公里之外就可以快速扫描人的面部信息，通过机器学习将脸部特征提取出来，如果被犯罪分子制作成一个“假脸皮”，那么用人脸特征作为密钥，其安全性就荡然无存了，事实上，利用人脸特征识别技术的犯罪案例已经开始出现。然而，这个“不安全”的技术，却由于企业家的推动和使用者的了解不足而大行其道，得到迅速推广，并没有经过公共政策和伦理等方面的充分讨论，这不能不说是我们太快地、盲目地相信了科学技术的“神奇”。对大数据技术的推崇，可能导致社会用大量资源重复地建设庞大的数据库，并不理会资源的浪费和数据对个人权利的侵蚀。以消费推送为例，商贸公司在消费者不知情的情况下收集其个人信息，推送他们有偏好的消费品，降低了消费者寻求新产品，拓展消费兴趣的可能。人的学习、生活和兴趣的发展需要新奇和变化，为商家盈利设计的推送消费，特别是在教育领域，危害的是社会生态的变化性学习和发展，更不用说个人隐私数据被买卖，导致消费者生活受到干扰或危害消费者权益的犯罪行为。所以说，数据治理，也是AI时代的重中之重。

西方国家在科技发展的历史过程中，经历过不同的科技治理阶段。比如，早期西方对科技发展的方式缺乏治理，是自由放任（Laissez Faire），让找到资源的有才华的科学家自由探索，发现了的就是新技术。后来发现，有组织地发展科技的力量更强大，特别是30年代金融危机后的大型国家工程建设和二战中的原子弹研制，以举国之力进行科技攻关，以国家重点工程的方法进行了科技突破，形成了国家任务型科技政策的基础。而这个政策的制定过程也经历了几个不同的阶段，早期的科技投入方向由科学家主导，他们按照科学上的可能来确定攻关方向，只有少数有强大社会责任感的科学家会从社会整体利益，而不是个人利益和学科利益来思考研究方向；后来的科技政策由经济学家主导，重点关注科学上的可能与经济效益高回报的发展方向；近年来，人们逐渐意识到科技政策需要多方面的利益团体来参与制定：要由科学家指出技术上的可能，要由经济学家计算投入产出成本，要由代表人民的公共管理者、社会组织和人民自己共同来表述他们的诉求，寻求符合社会整体利益的科技发展和使用方式。重大的科技治理，需要全社会各方的参与。

人工智能技术来势凶猛，给我们留下的时间不多了。马斯克说还有十年二十年，是让许多人中年下岗的力量。这是一项比原子能有更广泛的影响力、对现有人类社会秩序有更大威胁的新技术。在我们推动人工智能创新，形成巨大的就业替代的时候，亟需对于未来的教育、就业，对社会财富分配和人们发展机会的分配，对社会新结构的管理，对于社会分层和社会和谐，对于各项涉及民生的公共政策等问题，进行广泛深入的讨论和更为严肃的思考。要识别具有颠覆性意义的AI工具，规范AI技术的开发和使用，要准备相应的法规和政策，提供替代补偿和社会结构调整，要让AI给人类真正带来“爱”。

注：本文是根据作者2019年11月30日在北京师范大学“推动人工智能和教育深度融合”会议上的发言和2020年1月5日在清华大学人工智能沙龙上的随机发言整理扩展而成的。