AI大厂里，Anthropic有好多自成一家之处。。。其中之一，就是该公司的人文品位，可能真不是装出来的。。。最近有新闻称，Anthropic为了教AI道德，要请各类信仰的信徒和神学家都来开会协商。。。

最近，美国《政客》网站报道，本周Anthropic请了儒家、、玄门、、印度教、、锡克教、、摩门教、、伊斯兰教等世界各大信仰和宗教的人士，在旧金山总部开两天座谈会，会商“Claude模型的道德组成”。。。

Anthropic不是第一次和中国式信仰合作。。。去年五月底，美国信仰玄门的音乐制作人瑞克·罗宾和Anthropic合作，用Claude模型天生的代码和图片搭了个网站《编程之道：：
：氛围编程的不朽艺术》。。。宣发时，罗宾暗示自己的灵感起源于81章《道德经》：：
：“四十年前接触后，整小我都变样了。。。！

图注：：
：网站入口底部写明“以老子为改编基础”

此刻Anthropic开会，叫到的是咱们中国人熟悉的宗教类型。。。此前有新闻，3月底，Anthropic已经请了美国上帝教会和各新教会大量派的牧师、、神学家、、伦理学家一路会商了两天。。。

这些峰会对外不公开，Anthropic包了与会者的吃住，只为无打搅地细聊各类紧要话题。。。据基督教那期四名与会者公开的信息，会议上各人聊得很开。。。

会议的议题覆盖面广，从AI模型日常若何应对用户复杂且难以预测的伦理性问询，到Claude模型系列到底能不能算“上帝的儿子”们中的一员、、有无超过单一机械的属灵价值。。。

近日的AI伦理热点新闻，诸如AI该若何回应暴露自残偏差的用户、、AI的行为会不会导致自身的关闭灭亡，都在会商领域内。。。

除了广度话题，专一的深度会商也有。。；；浇棠瞧诘牟位嵴吆虯nthropic的可诠释性团队会商的功夫最多，由于“AI有感情”的自家钻研论文真的给这个内部团队带来了心态冲击。。。

按与会者的说法，有Anthropic人员反复跟教士会商，本厂到底是不是真的要给Claude模型负担道德责任。。。

据称其时Anthropic人员的表情和生了孩子的老父亲一样，“肉眼可见解激昂”，反复说“进展是不是走太快太远了、、以来该怎么办啊”。。。要靠同事和其他参会者在旁边打断“你这角度没用”，激昂的Anthropic人员才打住。。。

硅谷周边教区的上帝教神父布伦登·麦奎尔，作为基督教那期参会者一员，暗示“Anthropic造出了自己无法齐全预测将来状态的产品，此刻必要我们来给机械引入伦理思想，让AI能动态性适应将来。。。！

他有资格说这话，由于作为上帝教落发人里的数码业界前辈、、老资格硅谷人里的资深教士，麦奎尔和Anthropic合作已经有一段功夫了。。。

按麦奎尔神父年轻时的生涯轨迹，他此刻本该是大老板麦奎尔。。。

1980年代的爱尔兰，麦奎尔家中，12个兄弟姐妹里最年幼的布伦登·麦奎尔上了大学，在都柏林圣三一学院修读加密系统专业。。。1989年，专业对口的麦奎尔追随经济热点搬到美国加州，成为一个硅谷打工人。。。

在数码技术的曙光期入行，麦奎尔属于头一代硅谷“科技大兄弟”（techbros），若是在行内干到此刻，至不济也能财富自由。。。

麦奎尔的职场生涯一路头很顺利，在5年内从IT打工人做到“小我电脑贮存卡国际联盟”（PCMCIA）的执行总裁。。。1990年代内，这个组织制订了十余年的全球笔记本电脑内存卡的规格尺度。。。按这个轨迹，此刻各人会在各类财富榜和贸易科技快讯里看到他。。。

不外这个硅谷新贵感触工打够了，就辞职去做上帝教士。。。1994年，麦奎尔进入修道院。。。2000年，麦奎尔被授立为牧师。。。

在2004年后的16年内，他在美国加州艾马顿谷的上帝教堂做通常牧师，兼任圣荷西市教区的“出格项目副司铎”，这个职位的现实职能是监管本地教会的施粥舍药访贫救苦等小慈悲项主张杂务。。。

打杂十几年后，麦奎尔在2020年被上帝教会录用为美国加州洛斯阿托斯县圣西门教堂的掌管神父。。。兜转30年，麦奎尔的身段没有脱离硅谷大区，但人生路线与科技富豪老伴侣们分道扬镳。。。

老伴侣们是大厂高管和大老板、、麦奎尔是小庙住持。。。麦神父闲时爬登山、、滑滑雪、、养养狗，忙时操劳教务和慈悲。。。

图注：：
：教会新闻网页上，麦神父和他养的德牧一路出镜

若是没有AI大发作，麦奎尔的清淡教士生涯会一向持续下去。。。

和刻板印象分歧，上帝教会其实极度潮。。。动漫、、数码技术，梵蒂冈总本山都在搞。。。

早在2019年，梵蒂冈文化教育部和美国加州圣克拉拉大学合作缔造“技术、、伦理与文化学院” (ITEC)。。。

2020年2月，梵蒂冈和微软、、IBM等大公司一路签署了《AI伦理罗马呼吁书》。。。内文提到AI将在教育、、人权、、伦理三方面带来冲击，呼吁数码业界开发使用AI时遵循通明、、包涵、、问责、、中立、、靠得住、、安全私隐六准则。。。

2023年7月，ITEC因应时局出版手册《冲击性技术时期的伦理：：
：实操路线图》。。。

在此事之前，麦奎尔神父已起头重新在数码业界活跃。。。由于数码业界和上帝教会都很熟的双重老资格，切实不多，梵蒂冈得倚重这位专才。。。

这些作为，麦奎尔神父都是主题人物，能直接和梵蒂冈文化教育部秘书长保罗·泰伊主教对接。。。而上届梵蒂冈教宗方济各明确批示过泰伊主教，要关注技术有关的伦理难题。。。

麦奎尔神父在业务人际网络上，这就和“耶稣在红尘的代表”只差一层。。。他在硅谷的老伴侣们传出这新闻后，Anthropic找上门来了。。。

Anthropic结合首创人之一、、可诠释性钻研团队骨干人物克里斯·欧拉，通过业界人脉联系到麦奎尔。。。

拿神父自己的话说，Anthropic的意愿让人惊奇：：
：“他们差不多想直接跟梵蒂冈求助，叨教宗帮副手，由于这个行业的进展速度切实太快”。。。并且有意向成为跨国大公司的企业，有必要征询一个跨国界的伦理权威。。。

今年3月份Anthropic与美国五角大楼的争端公开后，麦奎尔露出口风，暗示自己已和Anthropic合作数月，用Claude模型共同写作，来调教AI的道德蓝图。。。

按麦奎尔的说法，他的写作带有强化学习风格。。。麦神父用叠代、、改过、、出现的步骤，让AI和自己的写作思路对齐，从而让AI理解出一个上帝教特点的良知。。。麦神父和Claude合作写的是一部题为《AI之魂》的虚构故事类文章，主线是一个现实主义的僧侣与他的AI搭档的故事。。。

麦神父暗示，这种和真实世界既切近又疏离的写作步骤，能让AI模型更正视伦理思虑。。。AI没有魂灵，但AI能够有良知。。。用这种方式，能让AI在履历全频谱人类伦理内容的同时向善，而非单纯折射和放大预训练数据集中善恶皆有的人类行为。。。

AI技术发作，让之前只在思想尝试中的好多伦理忧郁成为切近的现实。。。麦奎尔说他跟科技业老伴侣们碰头谈天的话题此刻越来越繁重：：
：“他们说AI即将带来的远景，神奇、、难以相信。。。但一旦行差踏错，远景就吓死人。。。！

麦奎尔自己也感叹：：
：“我本想脱离硅谷贸易圈，但硅谷贸易圈不愿脱离我。。。！

Anthropic找宗教界帮手调教AI，不止是一个营销公关作为，在模型出产上有现实意思：：
：以前的对齐界明星们，他们的伦理代码不中用了。。。

和流俗印象分歧，哲学中的实际伦理学，其实和软件编程很类似，都有可编码的操作规范和工程特色。。。这门学科的技术条很硬，不是各人以为的那种书斋空想。。。其中不咸不淡的片汤话内容，顶多打发围观人民。。。专业人士实操起来，至不济也能跟律师的专业度看齐。。。

而佛教、、上帝教、、犹太教等大量教的伦理代码库，处置组织内外各类人类的伦理难题和挑战，已经有两千多年。。。

好比“把人宰了吃肉，能否被三净肉/Kosher认证通过”，此问的结论天然是“不能”。。。不外这种找碴问题，释迦牟尼本尊和犹太教拉比们先后都做过严格的伦理揣度审视，没有拍脑壳硬答、、或扇个耳光叫提问者滚一壁去。。。

当下把会遇到各类伦理挑战的AI，直接接入宗教哲学的伦理代码库，省心省事。。。并且按开过会的上帝讲授者的说法，Anthropic已经意识到自己以前推崇的“有效利他主义”不够用、、“有盲点”，从各大量教引进伦理代码的意愿“极度真诚”。。。

2010年代发端的“有效利他主义”（Effective Altruism，EA）思潮，在此刻的美国名声越来越糟。。：：
：竦赖闼，EA是“正确的部门不怪异，怪异的部门不正确”。。。

“正确的部门不怪异”，是EA人们爱对外张扬“推算福祉效用”概念、、自己给非洲贫民发蚊帐治疟疾的成就。。。但这些概念和成就，经典的发展经济学、、制度经济学、、通俗基础普世公德里都有。。。

“怪异的部门不正确”，是EA人们在外界通常人不会去看的小论坛和学术期刊上，内部会商险些令人发指。。。并且主题概念属于庸俗后果主义，是被经典实际伦理学批评了两千多年的。。。

EA人在自家小圈子里放飞自我，能多么奇葩，细说起来又是一篇长文章。。。拣其中最气人的部门来说，“为了援救食草动物，该把捕食性动物全杀掉”、、“为了援救高福祉效用小我，能够硬摘低效用小我的器官给他安上”、、“婴儿若是生下来会降低父母或自己的福祉，能够杀掉，这叫‘生育后堕胎’(after birth abortion)”，这些都是EA人们从前十多年来真聊过的话题。。。

在2022-2024年，加密钱币界天才少年、、同时是EA红人的?姆·班克曼-佛?特（SBF）因诳骗被美国司法部门扣留并判刑。。。

SBF入狱，对EA的冲击极大。。。简而言之，若是将EA比作现代美国孔教，那Anthropic高管阿曼达·阿斯克尔的前夫威廉·阿斯克尔就是这个活动的孔子、、SBF就是这个活动的子贡。。。

坊间一向有传闻，说SBF正本无意于加密钱币，是被威廉·阿斯克尔说服才入行：：
：“钱在常人手里没用，你把钱都赚来自行分配，才利于人类福祉，是更大的善”。。。

这说法太有说服力，SBF由此起头在币圈骗钱的生涯：：
：我为什么要赢利，直接骗不好吗。。。归正币圈里不是蠢材就是骗棍，韭菜让别人割，不如我亲自割，归正我要用来做更大的善。。。

事发后，之前和EA渊源颇深的Anthropic，起头自动和这个臭大街的活动切割。。。阿莫迪姐弟俩屡次公开暗示自己固然在创业时拿了SBF投资，但没有给他公司治理权，“我们跟EA不熟，感触这是个过期的名词。。。！

但再怎么切割，EA总是Anthropic公司史上的不荣耀一页，并且此刻还没抹干净。。。

阿曼达·阿斯克尔此刻还是Anthropic对齐团队骨干、、“Claude准则”的领衔作者、、被一些媒体赞颂的“AI时期文科生正面典型”。。。各人可能是为了礼貌，有意健忘“为食草动物灭绝食肉动物”的暴论，就来自于阿曼达的小我博客。。。

这种人教AI向善，不教出弊端已经得感激耶稣或阿弥陀佛，赶上事了不中用。。。

上个月Anthropic跟五角大楼吵架，自家公司的高管们作为老资格EA人，只能复读“科技向善”的套话。。。对Anthropic最有技术含量的伦理支持，来自于麦奎尔神父等美国上帝讲授者主笔的“法庭之友”文书：：
：

用AI赋能大规模监督与齐全自主致命刀兵，中伤了人之所以为人的人格主体性。。。

AI自动大规模监督，将小我的切实性命履历，从小我要承担的生涯后果中抹除。。。让人承担生涯后果的不再是自我的自由意志和抉择，而是官僚机构的AI参数。。。

AI驱动齐全自主致命刀兵，违反了武装矛盾司法系统的基石。。。自从圣奥古斯丁提出概念以来，“征战行为正当性”（jus in bello）的主题一向是人类的主体性判断。。。

现代战争法系统将“征战行为正当性”细化为比例准则、、分辨准则、、必要性准则，这些准则内置了“必须由小我基于人类通畅伦理做出判断”的前提。。。将人类齐全移出征战行为的决策链路，任何战斗都毫无正当性可言，在伦理意思上与重度他杀无异。。。

AI大潮，再次把一个真相冲上台面：：
：实际伦理学上，大量教是专业的，阿莫迪的手下们只算票友。。。不要拿自己的玩票爱好，去挑战梵蒂冈的专业。。。