小姐威客助手全球科幻开发者大会汇聚中外科技专家、知名创作者、企业家与科幻爱好者，致力于创建国际化交流、研发、创作的数字空间，探索科技、文旅、教育、娱乐等领域中新兴的创业机遇、协作方式、社交场景和经济价值。我们特邀科幻专家，探讨热点问题、发展趋势、面对挑战及解决方案等。

　　在AI领域，无论是Open AI、Google，还是商汤、科大讯飞，无不卷入看不见硝烟的科技竞赛。如何分辨AI的“善”与“恶”？如何将AI控制在“善”的范围内？AI未来的价值究竟有多大？就这些问题，我们请教了在AI领域深耕多年的商汤智能产业研究院院长田丰先生。

　　田丰：人与AI是一种新工具的关系。农业时代是耕牛，工业时代是机器，现在是智能体，这些都是为人类服务的。适者生存，AI能为人类服务、解决人类的问题，与人类共事或共情才能存在下去，人类不喜欢的或不能产生实际生产力的都会被淘汰掉。

　　田丰：爱因斯坦说过，科技不能超越人性，超越人性就会出现问题。科技究竟给人带来幸福还是带来灾难，全取决于人自己。智能向善，我们通过法律、各种标准、治理体系，限制人利用技术“做坏事”，让技术可控。

　　研发、运营、用户三个层面的责任，组成追责体系和溯源体系。首先是研发责任，所有做大模型科研，或者做集成科研的团队是有责任的，而且是要在科技部备案的。第二，不管是在互联网平台或生产力平台上去运行，平台有责任。第三，用户其实有时候会故意误导这个模型做违法的事情，要负应有的责任。

　　田丰：从本质来看，AI能力分为知识、推理、执行三个层面。AI大模型可以汇集全世界的知识，比任何一个人类专家要博学得多。推理层面，AI能掌握成千上万种不同的个人思维链条。执行层面，机器人执行人类的指令生产产品、科研装备或做试验，是“新智生产力”赋能“新质生产力”、改变物理世界的过程。从AI这三个能力看，它还在顺着人类的要求往前发展。只不过之前的自动化机器是解决的体力劳动，现在解决的是初阶脑力劳动，到具身智能+通用人工智能的超级机器人阶段可以同时解决脑力劳动和体力劳动。

　　大模型智能体最终其实会先影响人类的精神世界，然后再去改变物理世界。商汤最近通过语言类大模型做了一个虚拟社交智能体，然后带着剧情、正能量价值观和人类的喜好与粉丝聊天，大家可以通过下载“筑梦岛”APP体验。这就是在改变我们的精神世界。

　　改变物理世界，需要会使用工具、创造工具、自己编程、自我改进的智能体。当把智能体安装到机器人大脑里，可以先在数字世界的仿真环境中做测试，比如在咖啡厅端咖啡，在汽车工厂造车。等到比较成熟之后，投入物理世界的生产测试环境之中，改造物理世界，商汤日日新大模型赋能松应科技打造了机器人的仿真训练虚拟场景。

　　田丰：人类为什么需要AI？因为旧质生产力已经消退了，新质生产力必须得出来，否则人类就会陷入“马尔萨斯陷阱”。OpenAI创始人萨姆·奥特曼在《万物摩尔定律》中提出一个设想，未来所有的日常生活用品都是AI加机器人制造的，而且机器人是租用的，可以采矿、生产制造。地球资源总量一定的前提下，必须要开采太阳系的资源。我认为通用人工智能体和机器人，实际上是人类迈向太阳系的一张船票。而人类个体其实还是比较脆弱，或者说在高风险的太空环境生存是很难的。所以，要去开发火星，先送上去100个AI机器人，然后机器人利用资源再去生产更多的机器人，等到将火星生存环境改造得比较舒适的时候，人类再集体迁移过去。

　　这并不是突发奇想。“冯·诺依曼探测器假说”提出，智慧生物可能会制造大量的可自我复制的机器人（ Self-replicating spacecraft ）来进行太空探索。如果借助冯·诺依曼探测器，外星人便可“足不出户”地开展远距离探索。冯·诺依曼探测器可以在宇宙中快速飞行，还能进行自我复制，使数量和范围实现指数级增长，这非常像《三体》中三体星人向地球发出 “水滴”探测器。所以，从这个角度来看，人工智能是必须的，否则人类还会陷入灾难性的内卷。