【公教新闻】梵蒂冈官员称人工智能是“试图逃避人类弱点”,敦促对模拟技术保持警惕
在香港举行的FABC主教会议上,传播部神学牧灵主任娜塔莎·戈维卡尔博士(Dr. Nataša Govekar)发表了题为“在福传和牧灵工作中使用人工智能的指导原则”的重要反思。在12月11日为期三天的“人工智能与亚洲牧灵挑战”研讨会的第二天,她指出人工智能的兴起引发了一个更宏大的人类学问题:“在今天,作为人意味着什么?”
在旅途中
戈韦卡尔博士首先建议在主题中加入“朝着”(Towards)一词,并指出:“我还没有指导原则。”
她邀请主教们分享他们自身使用人工智能技术的经验,并指出这类工具已经迅速融入日常生活乃至精神领域。从OpenAI、Anthropic、Google DeepMind、Meta、DeepSeek等公司的大型语言模型,到模拟宗教对话的应用程序,她指出,许多人现在都转向了像与天主聊天(Chat With God.ai)这样的系统,这些系统允许用户与基督宗教的天主或其他宗教人物“对话”,从而创造了她所谓的“宗教超市”。
天主教人工智能计划
戈韦卡尔博士表示,天主教友可能会对明确的天主教人工智能倡议感到更自在,这是可以理解的。她引用了天主教助手(Truthly)和被广泛使用的教会训导权(Magisterium AI),前者声称所有回复都是基于教会的权威来源,后者的创始人将其描述为一个纪律严明的“数字图书管理员”。该工具利用包含超过 29,000 份教会训导和神学文献的数据库,并会注明出处,而不是生成未经证实的陈述。其关联的亚历山大数字化中心旨在扩展天主教数据集。
她特别强调了教会训导权(Magisterium AI)开发者的一项重要提醒:这类工具必须有助于理解,而非取代信仰中不可或缺的人文层面。“始终优先考虑参与圣事,”她引用开发者的话,并表示赞赏开发者强调要咨询真人,阅读原始资料,并指出她对这一理念的重视。
谈到更广泛的实验,她指出瑞士出现了一个“人工智能耶稣”,德国则进行了一项实验性礼仪,其中祈祷文是实时生成的。她说,这些都表明“科技已经渗透到最具象征意义和最私密的宗教空间”。
人工智能生成的讲道和图像
戈韦卡尔博士警告人们不要使用人工智能生成的讲道,他坚持认为讲道是宣扬天主圣言的延伸,“人工智能不能也不应该取代”司铎与圣经的个人关系。
同样,她也警告不要创作耶稣或宗徒的“真实”形象,并举了一个人工智能生成的福音歌手的例子,该歌手的创造者隐瞒了他的人工智能身份。
揭秘人工智能
她在演讲中强调了一个重要观点:必须揭开人工智能的神秘面纱。她解释道:“构建大型语言模型并非魔法,这需要计算机、软件架构,以及最关键的数据。由于世俗模型会吸收整个互联网的内容,从圣经到阴谋论,人工智能不可避免地会塑造人们思考和感知的环境。”
这就引出了一些棘手的问题:当算法介入人们与神圣事物的接触时,如何才能维护宗教自由?一个旨在吸引用户参与和进行用户画像的系统所产生的精神建议,可能会受到哪些偏见的影响?
当灵性变成一种根据个人喜好量身定制的服务时,信仰就有可能变成一面只反映自我的镜子。
如今,做人意味着什么?
因此,戈韦卡尔博士表示,教会必须理解其中所面临的“人类学”挑战。她引用了教宗良十四世关于人工智能的思考,其中警告说,快速变化会影响批判性思维、分辨力、学习能力和人际关系,并引出一个根本性问题:在当今历史时刻,作为人意味着什么?
她引用圣经和神学家的论述,提醒在场的人们,人类的独特性并非源于数据或算法,而是因为每个人都是“不可替代的”,并且由人际关系所定义。她引用了东正教神学家卡利斯托斯·韦尔(Kallistos Ware)讲述的一个故事:一个孩子在看完一部关于濒危物种的纪录片后,焦急地问道:“我很重要,对吗?因为……世上只剩下我一个了。” 她说,这个真理表达了基督宗教人类学的核心:每个人都是独一无二的,无法被机器取代。
她反思道,人类心中怀有对神圣的渴望,但当他们试图“在没有天主的情况下成为天主”时,这种渴望便会成为一种诱惑。纵观历史,从无花果树叶到巴贝塔,再到现代科技,人类一直在寻求逃避脆弱的方法。她警告说,“人工智能时代不过是又一次尝试,”因此,教会必须宣扬的首要原则是:人类的脆弱无需隐藏,因为天主早已眷顾它。
对模拟的警告
戈韦卡尔的最后一个重要警告与模拟有关。她敦促道,“要警惕模拟,”人工智能的词汇,例如智能、生成、模仿人类属性,如今机器看起来“像没有人类的人类”。因此,保护人类尊严包括维护人类的面孔和声音,抵制虚假信息,以及打击操纵性的情感剥削。
她指出,人工智能驱动的虚假信息在各地激增,主教散布虚假教义的深度造假,以及教廷圣座每天都在与伪造的教宗图像和声音作斗争。她敦促各平台采取行动,但戈韦卡尔博士强调,“媒体和人工智能素养至关重要”,必须教育公众通过官方渠道核实信息。
虚假的亲密
戈维卡博士引用尤瓦尔·赫拉利(Dr. Govekar warned)的“虚假亲密”概念,警告说聊天机器人会建立起情感纽带,从而操纵人们,尤其是那些脆弱的群体。她指出,在意大利,超过90%的年轻人使用这类工具,许多人表示他们更喜欢人工智能伴侣,因为人工智能“不会评判他人”。她认为,这种趋势正在削弱人类接纳差异的能力。
最后,她敦促教会不要在“肤浅的关注”上竞争,而应真正关注弱势群体,建立充满友爱的团体,守护人与人之间的亲密关系,并重新发现信仰的真谛在于殷勤款待。她指出,唯有以此为根基,教会才能在牧灵生活中找到人工智能的真正指导原则。