【听教宗讲道】|我们不能依赖于机器做选择,人类的尊严取决于此
7月10日,教宗方济各致信在广岛“人工智能伦理促进和平”聚会的参与者,以下是信函的内容:
亲爱的朋友们,我向参加“人工智能伦理促进和平”聚会的人们致以问候。人工智能与和平是两个至关重要的问题,正如我有机会在七国集团(G7)峰会上向政治领导人强调的那样:“应该永远记住,机器可以在某些方面通过这些新方法产生算法选择。”机器根据明确的标准或统计推断在多种可能性中做出技术选择。然而,人类不仅会选择,而且在他们的内心有能力做出决定。决策是我们所说的更具战略性的选择要素,需要进行实际的评估。有时,在艰巨的治理任务中,我们经常被要求做出对许多人产生影响的决定。在这方面,人类的反思总是谈到智慧,希腊哲学的实践智慧,还有部分圣经的智慧。面对似乎知道如何独立做出选择的机器的奇迹,我们应该非常清楚,即使有时我们面临戏剧性和紧急方面的问题,决策也必须始终留给人类。如果我们剥夺了人们对自己和自己的生活做出决定的能力,让他们依赖于机器的选择,那么我们就会把人类推向一个没有希望的未来。我们需要确保和维护一个空间,让人类对人工智能程序做出的选择进行适当的控制:人类的尊严本身就取决于此。(2024年6月14日,教宗对七国集团的讲话)
在赞扬你们的倡议时,我请你们向世界表明,我们团结一致,在这个机器的新时代,要求做出积极承诺,保护人类的尊严。
你们聚集在广岛讨论人工智能与和平,这一事实具有重要的象征意义。在当前影响我们世界的冲突中——包括对战争的仇恨——我们越来越多地听到有关这项技术的信息。这就是为什么我认为广岛这次活动非常重要。最重要的是,我们要像兄弟姐妹一样团结起来,提醒世界:“鉴于武装冲突带来的悲剧,迫切需要重新考虑开发和使用所谓的‘致命自主武器’等设备的开发和使用,并最终禁止使用。这始于有效且具体的承诺,以引入更大和更适当的人为控制。任何机器都不应该选择夺走人类的生命”。(2024年6月14日,教宗对七国集团的讲话)
当我们审视摆在我们面前的问题的复杂性时,认识到各国人民和宗教的文化财富,在监管人工智能方面的贡献,是你们对明智管理技术创新的承诺取得成功的关键。
我希望你们的聚会能够结出友爱与合作方面的硕果,我祈祷我们每个人都能成为世界和平的工具。
——宗座新闻室网站