人类争论了几千年都没能统一的善恶标准，现在要先给 Claude 确定一套了。

据美联社报道，Anthropic 已经与来自超过 15 个宗教及跨文化群体的学者、神职人员、哲学家和伦理学家展开交流，试图让这些不同的思想传统参与塑造 Claude 处理道德问题的方式。

这件事最有意思的地方，是宗教和文化之间本来就存在大量无法调和的分歧。

同样一个伦理问题，不同宗教可能给出完全相反的答案。同一种宗教内部，不同教派也能争论几百年。人类社会花了这么长时间，都没能形成一套普遍接受的道德体系。

但 AI 公司必须做出选择。因为 Claude 每一次回答敏感问题、拒绝某个请求，背后其实都有一套价值判断在起作用。

所以我觉得，AI Alignment 正在进入一个很微妙的阶段。

Anthropic 可以邀请 15 个、50 个甚至 100 个宗教和文化群体参与讨论，但最后总要有人决定哪些价值观被保留，哪些被舍弃，以及发生冲突时谁的原则优先。

而这个最终决定权，仍然掌握在模型公司手里。

未来数亿甚至数十亿人每天接触的 AI，其道德边界可能最终由硅谷少数几家公司来划定。

这件事的政治意义，可能远比我们现在讨论的 AI 安全问题更大。