人工智能，如何向上向善?

发布时间：2026-10-03 20:26:36 来源：软香温玉网 作者：焦点

2026世界人工智能大会7月20日下午在上海落下帷幕，人工智能为期四天的上向善大会取得丰硕成果。一系列的人工智能展品和产品将如何赋能千行百业？人工智能如何向上向善？像人一样聪明的机器人离我们的生活还有多远？《新闻1+1》特别节目《AI1+1》与您共同关注。

给AI注入底层的上向善逻辑——不能伤害人类

这样的办法可行吗？

总台央视记者 徐卓阳：图灵奖得主理查德·萨顿说“智能不是计算，现在的人工智能AI只是在搬运人类的知识。”简单来讲就是上向善我们的知识只能运输给AI，它自己还不会学习。人工智能我们一口一个“人工智能”，上向善但在萨顿看来，人工智能只能叫“人工计算”。上向善

另外一方面，人工智能同样是上向善图灵奖得主，约书亚·本吉奥说的人工智能则是非常谨慎的一种态度：“怎么样训练这些系统，使它们既不会伤害我们，上向善又能够真正安全可控。人工智能”其实现在这个答案是空缺的。他举了一个类比，核危机在历史上发生过一次，但是人工智能的大规模系统失控一次都不能发生。

这两位都是图灵奖得主，但他们观念上是打架的，正是这种对冲的观点给我们扩大了整个产业发展的视角。

人类希望AI学什么？

徐卓阳：葛均波院士表示，“医疗不是造沙发，腿短了可以锯。人不行，你多缝一毫米、少缝一毫米都可能致命。”实际上就是在说AI技术在医疗领域，只能乖乖做人类的小助手，而不能越俎代庖。

我们再看下一个，“今天的AI会写诗、会写代码、会做PPT，但它帮不了一位老人翻身”，这其实是这届大会最关注的一个痛点。现在物理世界，AI能做的事情还太少，但也恰恰是现在的一个风口，怎样让物理智能更上一层楼。关键在于：“物理智能的使命，是‘把人还给人’。”

AI让生活更美好

我们更要相信人类自己

徐卓阳：以后的事情可能就分三块：AI干的事、人干的事，还有很大的一块公共地带，AI和人都可以干的事。比如遛狗、演奏乐器、陪孩子玩，这些事情都能给AI做，但是都应该给AI做吗？我觉得一方面是跟生死有关的我们不能交给AI，另外跟生命意义、体验相关的也不应该全都给它。

再从进化的角度讲，其实人的所有能力都是在过程当中得到的，而能力这个东西是用进废退。所以AI越有能力，越不要让它大包大揽。

同时要防止拿AI去做坏事，治理就要跟上了。这次的大会上也有相关强调，我们面对AI要做风险前置式的治理，通过制度和治理确保AI对人的伤害不会发生。

上海以前让全世界知道城市让生活更美好，这一次它让全世界进一步意识到AI让生活更美好。但是相信AI是排在第二位的，相信爱是排在第一位的，我们一定要相信我们人类自己。

相关文章