身在香港的刘宁荣教授（左）、程介明教授（右）与身在北京的潘天佑博士进行对谈

ICB/SEA2020年（春季）线上开学典礼暨云论坛圆桌会议下午第二场精华回顾
（2020年6月）
 

刘宁荣教授：首先请程教授跟我们分享一下，教育最重要的一个使命是给我们带来向上的机会，即所谓的mobility。在这样一个复杂多变的时代，学习真的能够帮助每个人获得mobility的能力吗？

程介明教授：这个问题没有标准答案，教育的最终目的是为了下一代的未来，但未来是不确定的。教育的核心业务则是学习，在工业社会，教育是为了获取学历，终身受用，但现在不行了。因此我觉得教育重心应该从学历转到学习，只有终身学习，才能应付不断变化的未来。在这方面人工智能的作用很重要。

以前在工业社会，我们生活在一个比较复杂的，结构严谨的群体里，个人的特点、强项与弱点不易表现出来。如果处在机构底层，无论从事什么职业都不会受到社会的太大影响。现在工作与生活碎片化，个人自由地暴露在整个社会中，独立处理工作、家庭、文化、政治、信仰等所有事务，于是除了学习知识、提升能力之外，还面临怎么处理个人情感及人际关系的问题。我也想请教一下潘博士，这方面会如何发展。我听说未来的人工智能会介入情感及创新领域，确有其事吗？

刘宁荣教授：这恰恰也是我想请教潘博士的问题，比尔盖茨和马斯克都曾经说过有一天人类会被机器人取代，这一天到底会不会来临？我们的同学问，机器是造福人类还是替代人类，未来是否会主宰人类？

潘天佑博士：先不考虑生物方面，纯粹从计算机科学来说，人工智能有没有可能发展到算法能设计新的算法？现在大家看起来很神奇的阿尔法狗、微软小冰等，尽管表现得很像人，甚至有时候比人还聪明，但这些机器的算法都是人设计出来的。未来把人脑和机器连在一起之后会怎么样？这个问题的答案目前只存在于大家的想象里。以今天我们所能够了解的机器学习和人工智能，算法有没有可能发展出一个新的算法？如果可能，那不得了，机器可以不断自我更新，美国未来学家雷蒙德·库兹韦尔提出的奇点——即电脑智能与人脑智能兼容的那一刻——就有可能发生了。

但直到今天，我们都没看到任何迹象表明算法能够自己发展出新的算法。在我看来，人工智能就是一个工具，一个有智能表现的工具，是人将算法放在机器里，机器去运转，如此而已。

程介明教授：我有两个相互矛盾的问题想请教潘博士。第一，尽管所有的机器智能都是人发明的，但存储量和运算速度都超越人类，所以阿尔法狗才能战胜顶级棋手。现在脑科学的发展也很快，那会不会有一天，机器能够模仿人在情感方面的一些活动？第二，到目前为止，所有的人工智能基本上都是单一功能的。央视的某个节目中，有53个手指的钢琴机器人与人类同台竞技，由国际钢琴大师郎朗判断人类与机器人琴声的区别。但该机器人只会弹琴，不会唱歌、跑步。今后会不会出现综合性机器人？你觉得是在遥远未来还是不可能发生？

潘天佑博士：讲这件事情之前，首先表达一下我对程校长的敬仰之情，我在网上看过很多程校长的发言，今天能跟您在线上见面倍感荣幸，您的请教我真的不敢当。

第一个问题，情感模拟不可能。微软亚洲研究院主要专注于机器学习的应用，不涉及神经和生物学方面，今天大家看到的比较神奇的人工智能产品，大部分是用我们这种方法做出来的。现在的人工智能是可以模拟情感的，比如将情感算法注入微软小冰。但情感算法不代表机器有情感，只是让机器学习与计算人类某些言论所代表的心情。只要从网上抓取足够大的数据，很容易得知骂人表示心情很坏，欢笑与亲昵表示心情很好。这些都是简单的情感算法，大量的数据让机器得以分析出一个人当前的情感状态。但真实的情感模拟是另一回事，原则上我不知道会不会出现。至少在我们目前所做的研究里，机器是绝对没有情感的，也不会突然变得有情感，因为算法不能发展新的算法，机器按照我们编写与内置的程序运作。可能会有bug，导向无法预料的情况，但bug通常是非常随机的，没有可能让机器突然变成超人类。

第二个问题，会不会有综合机器人出现？机器有没有可能自行应变复杂情况，产生解决办法。归根到底，回到我刚才讲的，算法到底能不能发展新的算法？据我了解，不行。

举个例子，阿尔法狗能够打败棋王，但如果在比赛前半分钟，围棋的规则改了，不是一个人下一子，改成一个人下两子。人类棋手可以立即想出下两子的方法，但阿尔法狗无法理解下两子的含义，它还要从头学习。所谓的综合性机器人，必须实现算法能发展新的算法，这还有非常长的路要走，现在还不能实现。

刘宁荣教授：刚才您谈到微软小冰，我自己在美国的投资账户也使用机器人作为客服答疑。人工智能越来越广泛地运用到商业领域，发展非常迅猛，将会对商业运作带来什么样的变革？我们同样也问，AI驱动数字化转型，真正的技术难点是不是已经突破，比较成熟了？

潘天佑博士：这些年很多技术有了非常大的突破，未来几年的工作重心是将这些技术融入真实场景，也就是我们经常说的AI落地。过去5年讲了太多关于AI的故事，看到很多奇幻产品，等到AI一落地，我们会发现不是那么回事。比如现在我们给银行打电话，一听就知道是机器人应答，它的知识没有我们想象那么广，并不完美。

我们之前做的很多都是基础研究，近年开始和一些企业合作，因为发现AI研究已经不是难点，下一个5年的难点是AI的真实场景应用。很多的技术看似成熟，但把它运用在真实场景里还得有一个过程。未来5年，有兴趣的同学们都可以参与进来，看看怎么把实验室里的这些技术，运用到各行各业中去。

刘宁荣教授：一方面，如果AI可以承担复杂的金融运算，基金经理就会大面积失业了。另一方面，我很开心看到AI技术发展给人类生活带来巨大变化。在上午的开学致辞中，我提到从市场角度讲，各个领域都希望有极大的利润增长。但医院这类救死扶伤的领域却需要大量人力资源，支付高昂的人工成本。而机器人能够代替一部分人力工作。从这个意义上讲，人工智能对医疗行业的发展会带来什么样的正面影响？这是两个方面的问题，一个是金融，一个是医疗。

潘天佑博士：都是很好的问题，讲到基金，我们和华夏基金、太平洋资产一起都做了很多研究。请大家思考一个问题，如果我们做出一个投资算法，这个算法能够打败全世界几乎所有的竞争者。因此大家都用这个算法做投资，那到底谁是赢家？其实不是人工智能打败了投资者，而是投资者、基金经理和计算机组成一个团队，共同研究出新的算法，这个算法在20年前可能叫量化分析，当时量化分析的问世非常了不起。现在通过计算机科学又研究出了新的更先进的算法，这个算法一旦所有人都学会，又没有赢家了。然后必然需要组建更强大的团队，投入更优秀的算法研发，周而复始。

刘院长提到的医院是非常好的例子，我们应该用正面态度对待AI，有些事太复杂，单个人脑无法完成，所以需要工具协助。AI就是一个无需畏惧的工具，工具自然在某一个方面强于人类，否则毫无价值，例如榔头比拳头坚硬，才能被用于敲击钉子。人工智能在某些功能上比人类优秀，更重要的是，他们可以提供包括医疗类在内的大量服务，而很多人出于薪资或风险原因不愿从事这部分工作。比如新冠疫情大流行后，缺乏病床、医护人员，但整个AI领域却没有任何应对，我个人表示非常惭愧。没有AI介入，我们在防疫过程中，只能用最原始的方法把人隔离起来，其中大部分是健康人士，结果影响了经济发展。

如果再发生类似事件，应该怎么用科技手段去面对？也许可以24小时自动跟踪每个人的情况，再跟大数据连接起来，确定哪些人需要接受检查与隔离，从而释放健康人士的产能。我觉得AI领域有很多事可以做，大部分可以帮助人类更好地应对困境。

刘宁荣教授：程教授，今天我们谈到的一个重要话题就是“变”。从您进入香港大学教书到现在，社会整体状况已经截然不同。面对AI时代的快速发展，我们作为教育者应该如何教育下一代？跟过去最重要的区别在哪里？培养下一代的领导人所不能缺乏的要素有哪些？

程介明教授：现在的教育模式基本就是教书，给学历。美国更糟糕，普通的老师就是读（Reading）、写（Writing）、算（Arithmetic），所谓3R。中国人还有德智体美劳五育。这次疫情告诉我们，现在很大一部分教学可以在网上解决，或是学生自己能够学到的。以前我们勉强把学生关在课堂里面对面，要求他们照葫芦画瓢地学习。将来这部分教育应该实体跟虚拟并存。但还有一部分教育是不可替代的，即学校体验，包括同学交往、体育锻炼、课堂实验等等，未来人工智能也许能替代传统学校里老师的大部分重复性工作，但超越课堂、课本、课程与考试的人文体验是人类专属的。

还有一个问题是技术性岗位的可替代性，例如一个法律软件取代了55万个法律相关职位，一些基础合约都可以代劳，在美国运用广泛。那么教育需要与时俱进，更新技术教学。马斯克最近宣布脑机结合有了很大突破，可以在人脑中植入芯片，储存大量知识，代替学习过程。但从教育的角度来说，知识不光是记忆的问题，熟练运用与领悟才是关键。

有一个更大的问题是，假如AI能够代替人类进行很多活动，人类的活动就会慢慢消减，那人类还会进化吗？人脑是可塑的，根据由于人的活动而成长，而非知识输入大脑。有些国家计算器普及，人们普遍不会算术。网络普及则使得内地很多小孩使用拼音输入，不再写字，中国文字的传承岌岌可危。文字不仅是语音的代表，它是民族的传承。

AI是人类的助力还是导致退化的元凶，有没有一个边界？这个问题没人探寻，科技领域与教育领域都没有研究这个课题，现在考虑也许为时过早。中国最近出现了无人驾驶的坦克，无人机现在也比较普遍，未来的战争也许不用再拿人命去填，这是一个好的发展方向，人类对AI的想法也许可以很人性化，有多项考虑。
 
刘宁荣教授：人工智能能不能改善人类的贪婪呢？

程介明教授：我可以讲个故事，有一天我听郭毅可教授的节目，他现在是香港浸会大学的副校长，以前是伦敦帝国大学数据研究所所长，他讲了很多大数据的结果。那一次讲座的评论员是宝莲寺的方丈净因法师，净因法师说：“很好啊，有人替我洗衣服，有人替我烧饭，我就可以静心的修行了”。但是他问，“有AI可以替我修行吗？”就是您刚才提出的问题。
 
刘宁荣教授：所以请问潘博士，有没有办法治疗人类的贪婪，这是我们面对的重要问题和挑战。

潘天佑博士：我们常说的人工智能，跟真正的人工智能是两个截然不同的概念。如果把人工智能分成五个层级，现在计算机所解决的智能问题位于前3个层级，最底层的是计算、储存这一类，我们早就输给计算机了，但人类并不惊慌。往上一级，近年大家看到的AI位于感知层级，就是计算机能看能听，而且具有辨识能力。这种智能还是非常非常基础的，我们开玩笑把感知的AI称之为动物智能，老鹰看得比我们远，狗听得比我们清楚。所以我觉得计算工作早就应该让机器做了。感知这个部分，包括看和听，也可以让机器服务。

让大家觉得比较神奇的是认知层级，可以听懂人类语言并回答一些问题，但其实就是情感计算，只是从大数据里统计结果而已，机器没有感情，也没有真正的感知。

很多人以为人工智能的顶层，即创造力、智慧、贪婪等，是我们在做的智能。事实上，这些东西跟机器一点关系都没有，因为机器没有哪怕最基础的感觉，机器不会贪婪，除非设计出贪婪算法；机器没有创造力，不能自己发展出新的算法。

对于人类来说，最大的价值已经不是底层的计算和初级技能。正如程校长所言，过去只要有一技之长，可以数着日子等30、40年退休。而现在的一技之长很容易被机器取代。以前可以当一辈子的司机，养家糊口，愉快度日。但当自动驾驶车横空出世，司机将迎来大面积失业。底层的技能会被取代，人的价值、创造力甚至贪婪却无可替代——因为贪婪可能会激发创造力。我反而认为这部分是当前教育里最重要的。学校教育适当减少技术培养，差不多就行了，反而应当更重视下一代的创造力培养，让灵感与设计能力日日长新，这才是机器无法媲美的，人类最重要的核心竞争力。
 
刘宁荣教授：非常感谢潘博士，也感谢程教授跟我们分享人类可以掌握的未来，以及给教育带来的挑战。当前这个高速变化的时代，我们不可能再依靠一份工作、一技之长走完人生。港大ICB与港大SEA成立的初心，就是希望给我们的专业及高层管理人才提供进一步深造和学习的机会。在学习过程中，专业知识是重要的，但是每一位学员的社会责任、社会精神更加重要，不仅通过一年的学习，还要通过更漫长的人生才能充分掌握与领悟。今天，港大ICB与港大SEA的参会学员，从内地不同的城市完成了开学典礼和云论坛，我希望这是你们终身学习之路的全新开端，谢谢大家。