徐靖杰3月26日至29日，博鳌亚洲论坛2024年年会在海南博鳌举行。在一场有关人工智能的分论坛上，中国工程院院士、清华大学智能产业研究院院长张亚勤，表达了他对未来人工智能的看法。

　　清华大学智能产业研究院院长 张亚勤：这个论坛谈到生成式人工智能本身的一些机会，也谈到它的一些风险和治理，我觉得人类有两种智慧，一个是创造新技术的智慧，另外一个是控制技术方向，引导技术方向的智慧。

　　无论在学术界、工业界，还是在人工智能前沿研究与产业应用领域，张亚勤都有着辉煌的履历，他曾在微软公司工作16年，历任微软亚洲研究院院长兼首席科学家、微软中国董事长；之后五年，担任百度公司总裁。2019年底，张亚勤正式受聘于清华大学，牵头组建清华大学智能产业研究院并担任院长。在AI大模型出现后，他不断透过媒体分享AI的应用前景。

　　记者：对于普通人来说，对于我们的改变就是生活中出现了两个新的名词ChatGPT和Sora。但是对你们专业人士来说，就这两个东西的出现意味着什么？

　　张亚勤：意味着机器将会达到和人一样聪明的程度，就是它的能力会和人一样甚至更强。

　　AI是人工智能的英文缩写，是一种由人制造出来的机器，这种机器可以模拟人的思想和行为，从而体现出一种智能反应。从小爱同学到小度，再到击败人类职业棋手的人工智能机器人阿尔法狗，AI早已走进人类的生活。但近期出现的以ChatGPT和Sora为代表的生成式AI，却带给人们前所未有的震撼。撰写文案、编写代码、根据文字生成视频，震撼之余，也不断有人发出警告。

　　张亚勤：比如说你在做内容产业，可能现在已经在影响你了。你做文字的、做图片的、做视频的、做广告业的现在已经开始在对你产生影响，这个影响可能是正面可能负面。但是对物理世界的影响，就大模型用到的，比如说机器人、无人驾驶，我们所有的设备上，还需要一点时间。然后生物世界，比如说人脑接口，新的生命体、新的生物体这个需要可能更长的时间。

　　张亚勤：我有一个大致的判断，我用图灵测试，图灵测试是做计算机和人工智能鼻祖艾伦·麦席森·图灵当时在50年代提出一个测试，就是说，我和你对话，一个是人一个是机器，我在很多轮对话之后，我搞不清这个是人还是机器的时候，就通过了我这个测试，人和机器基本上分不出来了。我觉得现在我们已经通过了在文字方面的图灵测试，在图像和视频方面很近了，可能两年到五年时间，这个时候我产生的图片和视频，你就看不出是AI产生的还是人产生的。再过五年，我们在机器人，特别是人型机器人，和无人车方面已经通过图灵测试，可能开得比人都好了，开车。

　　张亚勤：生物世界需要更长的时间。生物世界已经是个必然的趋势了，我们的机器，人工智能的大模型，和我们生物世界、生命世界会连在一块。通过比如说像脑机接口，可以是侵入式也可以是非侵入式的，这种生物芯片，或者是传感器。也可以帮助我们去制药，可以做医疗，这个已经在发生了。但真正大规模联动的线年的时间。我讲这个就是说，我们可能在20年左右，会看到人工智能在几乎所有的领域都会比我们人类的能力要强，这是件好事，由于给了我们特别强大的工具。

　　在ChatGPT出现之前，曾有不同机构对人工智能如何影响未来人们的就业情况进行预测，有一家著名管理咨询公司2016年的报告，预测未来将有众多的工作被人工智能取代。而ChatGPT的出现，似乎在加速这一进程。

　　张亚勤：我觉得整体来讲有三种人。任何一个技术来临的时候，有三种人。一种人是和我无关，我该做什么就做什么。另外一种是焦虑，我被淘汰了怎么办。还有第三种人，他会积极学习技术、了解技术，会拥抱它、会使用它。我们大部分人肯定不会知道大模型里面算法是什么样的，我们也不需要知道，但是我们要会使用这个工具。比如像ChatGPT，它里面怎么工作你也不需要知道，但是它能帮你什么你要知道，像Sora这样的图像视频的制作工具，你也不需要知道它里面的原理，但你要知道怎么用它，对你的业务、你的工作会有什么样的影响。我觉得可能正面是大部分的，但是会有一些行业，有一些工作也会消失的。但是整体来讲的话，社会的生产力会大幅度提高，所以现在讲到新质生产力其实很有道理的。“人工智能+”包括作为智能社会的基础设施的底座，它会大幅度改变改善我们生产力。

　　为人工智能欢呼的同时，张亚勤也同时在不断提示人工智能的风险。事实上，在很多人尚未熟悉人工智能时，风险已经降临。

　　张亚勤：这些风险一个是信息世界的风险，它给你生成虚假的信息，包括人为作假、深度伪造这些会给我们带来风险，比如说现在金融领域，在香港有一个财务人员他和公司开会，这里面有首席财务官还有别的财务人员。让他转账两个亿他就转了，最后发现他是唯一一个真的财务人员，别的人都是伪装的。

　　张亚勤所说的案例发生于香港，当地一家跨国公司的员工，在多位高管参加的视频会议中，接受指令将2亿港币转到不知名账户，5天之后才发现被骗了。香港警方在通报中称，以往的AI换脸诈骗，一般都是一对一的。这次骗子用视频电话会议的形式，伪造了一个高管团队，让可信度大幅上升。参与视频会议的都是真人，然后通过人工智能换脸，把骗子的脸和声音都换成了对应的高管的脸和嗓音，下达了转账的指令。

　　张亚勤：他每个人都是生成的，生成的样子就是那个人，讲话也是。过去早期要做这个东西很困难，现在就是普通人都可以使用工具生成数字人或者换脸，让你区分不出来到底是真人还是虚拟人。所以我在讲我们生成数字人需要有标识，在法律政策层面知道这个数字人不是真人。比如说董倩，我现在技术可以生成很多很多虚拟的“数字董倩”，我根本看不出来到底是真人还是数字人，这个时候首先数字人在复制时候需要经过本人的同意。

　　张亚勤：对。第二点就要有标识，但是坏人他不会有标识的，也不会经过同意。这个时候他要接受法律的制裁，但目前就没有这样的，或者至少法律没有实施。我们首先就是在技术层面要知道这个是数字人，第二点在政策层面、法律层面使用数字人的时候，什么样的限制、什么样的条件，需要一个规范。第三点就是他犯法了你怎么办？

　　人工智能技术在给人类带来憧憬的同时，也带来了抹不去的隐忧。如果有一天机器人变得和人一样聪明甚至比人还要聪明，那么，人类会不会受到人工智能的威胁？著名物理学家霍金就曾与多位科技界名人发表联署公开信，表示人工智能对人类的威胁更甚于核武器。特斯拉首席执行官马斯克也发文称，人工智能是人类最大的威胁之一，需要引导控制。

　　记者：因为我们知道在奥本海默他们研究的时候，当他们发明出来这样的一个武器，他们作为科学家意识到了，后来是什么，但是他们也仅仅是意识到了为止。对你们来说，意识到不做，可不可以？

　　张亚勤：不可以。技术也好，工具也好，最终要为人类服务。我们是唯一一个物种可以发明出、创造出比我们更强大、更聪明的工具，同时我们也是唯一的物种，可以发明摧毁我们自己的工具。我们希望不要再做出来了，我一直想说，我们要打造一个善良的AI，教育它让它做善事，为我们服务，而不是失去控制，而不是去对抗人类，或者控制人类。

　　张亚勤：会，AI不断去有更多的数据、有更多的算力、有更好的算法，它肯定会越来越强大，强大要善良的强大。

　　3月10日至11日，“北京AI安全国际对话”在北京举行，张亚勤和相关领域的三十多位专家围绕国际AI安全技术前沿研究、产业应用实践等话题展开深入探讨，共同拟定并签署了《北京AI安全国际共识》，提出人工智能风险红线及安全治理路线，呼吁“在人工智能安全研究与治理上的全球协同行动，是避免不受控制的前沿人工智能发展为全人类带来生存风险的关键。”

　　张亚勤：我们防坏人。人99.9%是善良的，但是当0.1%的人是邪恶的，我们必须让善良战胜邪恶。所以我是乐观的，但是乐观不等于什么都不做。

　　张亚勤：你讲得太好了，所以说我们要在一起。我们现在最近有几个机构，就是把技术的人和监管的人一开始就在对话，大家建设性对话，这样才能把风险在没有发生时候就控制住。我一直讲边界很重要，另外就是全世界要一起合作。

　　记者：没错，这正是我想问你的。这是不是每一个从事人工智能，在初期起步研究时候的科学家题中应有之意？

　　张亚勤：是，所以最近我们中国的科学家和英国的、美国的、欧盟的科学家一起开了好几次会，找出这个问题，然后来面对风险，然后来去化解它。所以我觉得这个对话的机制，特别是跨领域，包括跨国的，全球性的合作对话、合作机制特别重要。

　　在呼吁全球合作、建立人工智能风险对话机制的同时，中国还需在竞争中发展自己的AI技术，对此，张亚勤也多次公开表达自己的乐观情绪。2019年底，他接受清华大学邀请，组建人工智能产业研究院。在开启辉煌的职业生涯之前，张亚勤是公认的神童，1978年考入中国科技大学少年班的时候，他只有12岁。而53岁进入清华，则让他有了贯通教育、科研和产业的新机会。

　　张亚勤：我认为投身进去，培养人才也是投身，做科研也是投身。我博士之后正好工作了30年，在美国也好，后来到了微软、到了百度，对我来讲，我是希望能到第二线来培养人才，领导科研，为长期做更多的工作。

　　张亚勤：学校可以培养人才，学校可以做一些基础的科研，学校可以想得更远一些。

　　因为要面向产业，迎接正在到来的第四次产业革命，张亚勤主张“做有用的研究”，培养面向产业的人才。

　　张亚勤：你这个问题特别好，我觉得传统的院系里面只上课，教授也没有产业背景，是很难培养出未来的首席技术官和产业的领导者。所以我们在清华智能产业院里面，首先我们的老师要有产业背景，同时也有学术背景。第二点，我们要和企业合作起来做研究，我们大部分的项目是和像百度、滴滴、联想、小米，包括Intel、奔驰、BMW这样的公司一起合作研究。合作研究一方面是帮助企业解决长期的科研和技术问题。最重要的一点做项目的同时，我们的博士后、研究生也做这样的项目，做这个项目本身就对他们做工程创新是一种锻炼。这样如果他毕业之后，他就很容易去参与到企业的创新、大的工程项目里面。如果在学校里学的都是书本知识，光写一些论文，这个到公司还是有差距的。因为我原来30年都在公司里面，我是在另外一边，我看到我们培养人才和需求之间的距离。

　　作为清华智能产业研究院的掌门人，张亚勤认为，作为一项产业的研究者，一定要着眼未来，而不是只盯眼前。

　　张亚勤：学校和企业合作的时候，首先要很清楚，学校不管是老师、研究生，我们的研究人员不是工程人员，不做今天的产品。

　　张亚勤：这个不是学校的优势。学校的优势是在于产生新的思想、新的技术。在公司里面，往往大部分的资源放到今天的产品，但我觉得这个的话，一个大的企业要长远发展，必须要有这样的一种远见和一些投入，十年之前，我觉得这种企业基本不存在。

　　张亚勤：我说中国。但是现在越来越多了，现在和我们合作的，我刚才讲的那些企业，都是在问我们，我们未来需要这样的产品，这里面有哪些核心的技术问题。或者他会问，你们在做什么样最前沿的研究，这些研究会带来什么样的能力，来规划他未来的产品战略和路径。研究院有的时候是在试错，比如说有一个技术，是否在五年中能落地？这个研究本身，这个想法是不是现实？这个其实是研究人员可以去试错。

　　张亚勤：因为企业试错代价太大，如果方向错了，5个人试和500人、5000人试是不一样的。

　　早在10余年前，张亚勤就在达沃斯经济论坛指出：人工智能将是这个时代最重要的技术变革力量。张亚勤认为，前三次工业革命的基石分别是蒸汽、机电和信息技术，而在今天已经开始的第四次工业革命，其基石就是人工智能，人工智能未来会成为一切事物的必需品。

　　张亚勤：人类很有意思，我们十几万、二十万年的历史，都是自然进化。过去的三百年开始我们已经是加速进化了，不是自然进化了。第一个就是蒸汽机的发明，摆脱了对肌肉的限制，这个时候是体力方面的解放。后来有了电力、有了互联网、有了计算机、有了手机，现在有了人工智能，对我们的智能是一个新的解放，所以我们进化的速度是加速度的。我们现在看三万年前的山顶洞人，那时候北京猿人，那个时候石器时代，他就拿石头作为一个工具，这也很了不起了，已经知道怎么使用工具了。到了今天的人类，我们有手机、有互联网、开始有人工智能了。再过五十年，五十年看我们今天的人类，和我们现在看三万年前人类可能是一样的，我拿个手机，就像石头一样的。那个时候人的本性并没有改变，只是我们的工具变得如此之强大，所以未来，我们人是一个机器智能和人类智能的融合，这个融合比现在人类更加强大，但是它还是人类的工具，是我们的一个延伸，并不会替代人类。

　　张亚勤：是的。你的生产力会大幅度提高，用更少人可以做更多的事，或者同样的人可以做更多的事。我是个理想主义者，我觉得也许十年、二十年之后，我们不需要每周工作五天，可能工作两天，然后别的时间就完全去做自己喜欢的事。如果看一下在工业革命早期，我们每周工作七天，后来变成六天，后来变成五天，现在欧洲有一些国家工作四天了。

　　张亚勤：我觉得从我们进化，特别从人类的智慧，我认为未来是很乐观的，我相信如此，我也希望如此。

　　制片人丨刘斌 王惠东 记者丨董倩 策划丨孟克 编导丨银建章 摄像丨刘洪波 杨帆 高忠

　　营业执照增值电信业务许可证互联网出版机构网络视听节目许可证广播电视节目许可证