教皇利奥十四世AI通谕全解读：梵蒂冈如何看待人工智能伦理

2025年5月15日，梵蒂冈发布了教皇利奥十四世的通谕《Magnifica Humanitas》（人性之光），全面阐述了人工智能时代如何保护人的尊严。科技评论者Simon Willison称这是他所见过的"关于AI融入现代社会伦理问题最清晰的文本之一"。这份来自宗教领袖的技术伦理文件，为当前喧嚣的AI辩论提供了一个独特而深刻的视角。

从工业革命到AI革命：历史的回响

利奥十四世选择"利奥"这个名号绝非偶然。他明确致敬的是1891年发布《新事物》（Rerum novarum）通谕的利奥十三世——那份文件在第一次工业革命的背景下，系统阐述了资本与劳动的权利与义务，深刻影响了此后一个多世纪的社会思想。

理解这一致敬的分量，需要回溯《新事物》的历史语境。1891年的欧洲正处于工业革命的剧烈震荡中：工厂制度兴起、城市无产阶级大规模形成、童工与恶劣劳动条件普遍存在，而传统的封建秩序与行会制度已然瓦解。《新事物》首次系统阐述了劳动者的尊严与权利、私有财产的正当性与限制、国家干预经济的边界，以及雇主与雇员的相互义务。这份文件开创了"天主教社会训导"（Catholic Social Teaching）这一传统，此后历代教皇相继发布系列通谕加以发展，形成了一套涵盖劳动、财产、发展与正义的完整伦理体系。利奥十四世选择以同一名号呼应这一传统，意在宣示：AI革命对人类社会秩序的冲击，与工业革命具有同等的历史量级，需要同等严肃的道德回应。

利奥十四世在与枢机主教团的首次正式会面中解释道："在我们这个时代，教会将其社会训导的宝库奉献给所有人，以回应另一场工业革命，以及人工智能领域的发展所带来的新挑战——这些挑战关乎人的尊严、正义与劳动的捍卫。"

这种历史类比本身就传递了一个重要信号：梵蒂冈将AI革命视为与工业革命同等量级的社会变革，需要同样严肃的伦理回应。

LLM的可解释性难题："培育"而非"建造"

通谕第98节对大语言模型的本质给出了一个极为精妙的描述：

当前的AI系统与其说是"建造"出来的，不如说是"培育"出来的，因为开发者并不直接设计每一个细节，而是创建一个框架，让智能在其中"生长"。因此，这些系统的内部表征和计算过程等基本科学层面，目前仍然是未知的。

这个比喻之所以精准，在于它捕捉到了现代AI开发的技术本质。大语言模型并非由工程师逐行编写逻辑规则，而是通过在海量文本数据上进行梯度下降优化，让数十亿乃至数千亿个参数自动调整至能够预测下一个词的状态。这一过程的结果是一个高维参数空间中的数值矩阵——没有任何人类可读的规则，没有显式的知识表征，只有统计关联的压缩编码。即便是GPT-4或Claude的开发团队，也无法直接"查阅"模型为何对某个问题给出特定回答。Anthropic等公司专门设立了"可解释性研究"（Interpretability Research）团队，试图通过激活分析、特征归因等方法逆向工程模型内部表征，但目前仍处于早期阶段。通谕所用的"培育"（grown）一词，恰好对应了机器学习领域"涌现"（emergence）概念——复杂能力并非被设计进去，而是在训练过程中自发出现，连研究者也难以预测。

这个"培育vs建造