信任的对象变了：算法信任的交易成本重构 ——基于新制度经济学的分析

（原标题：信任的对象变了：算法信任的交易成本重构 ——基于新制度经济学的分析）

引言：信任对象的第三次扩展

新制度经济学认为，信任能降低交易成本，而信任形态遵循一条从人格化走向非人格化的演进线索。诺斯（Douglass North）将这一线索贯穿至制度变迁史：熟人社会依靠重复博弈建立人格化信任，复杂社会则依靠非人格化的制度——法律、监管、标准流程——替代重复博弈，使素不相识的行动者也能完成交易。每一次信任从"认人"扩展到"认规则"，交易费用便出现断崖式下降，经济活动的边界随之向外拓展一层。

数智时代的到来，正在开启信任对象的第三次扩展：从"认规则"走向"认代码"——即从制度信任走向算法信任。在"碳基直觉+硅基穷举"的碳硅共生结构中，碳基主体凭什么信任硅基主体的穷举结果？本文认为，算法信任的核心不在于代码本身具有道德属性，而在于一套可预期性的制度安排——训练数据治理、验证流程、事后审计、异议机制——使决策非任意、后果可追溯、错误可纠正。本文将沿着"信任形态演进→黑箱的交易成本→可解释AI的经济学均衡→碳基伦理官与硅基模拟器的治理结构"这一线索，论证算法时代信任重建的基本规则。

一、从制度信任到算法信任：中介层的断裂与重构

1.1 制度信任的算法中介化

诺斯将信任从人格化走向非人格化视为制度变迁的主线。在工业时代，非人格化信任的载体由三要素构成：成文规则、流程记录、问责渠道。贷款申请人不需要认识风控员，只需相信《贷款管理办法》和监管框架；拿到制度文本，就约等于拿到了所有问题的答案。这是工业时代最被低估的制度红利。

但在碳硅共生的数智时代，这套载体出现了结构性断裂。规则文本依然存在，但其执行逻辑被封装进模型参数之中。贷款申请人可以读到《贷款管理办法》全文，却无从知晓模型为何打出低分——是因为某条规则的权重被调高，还是因为训练数据中某个隐性关联被激活？原有的可读性载体没有消失，但不再足以支撑信任。制度信任赖以成立的可读、可追溯、可问责三根支柱，在算法中介场景下同时被削弱。

这并不意味着制度本身失效，而是制度的中介层发生了变更。过去，制度直接连接人与规则；现在，算法作为中间层接管了规则的执行，而这一层对人来说不具备直观可读性。于是出现了第三种信任形态——算法信任——它要修复的不是制度文本，而是制度文本与决策结果之间的那层断裂。算法信任的载体不再是成文规则本身，而是训练数据治理、验证流程、事后审计、异议机制这一整套制度安排所拼合出的可预期性。

1.2 黑箱的真正成本：被转嫁的交易费用

深度学习模型的决策路径是海量参数的纠缠，设计者自身往往也难以追溯"为什么"。这不是bug，而是特征——黑箱恰恰是模型获得强大拟合能力的代价。但这一代价会转嫁到经济系统之中。

当贷款被拒而申请人不知道原因时，他无法针对性地补救信用；当求职者被自动筛除而不知原因时，他无法调整求职策略；当患者面对AI推荐的治疗方案而不知依据时，他不敢签字同意。每一次"无法追问"，都是一笔没有进入GDP统计的隐性交易成本。它不体现在企业的会计账面上，却让无数笔本可以发生的交易胎死腹中。这是算法时代最隐蔽的效率漏损——不是生产环节的浪费，而是交易环节的制度性摩擦。

从新制度经济学的视角看，黑箱造成的成本可分解为三层：（1）信息成本——用户无法获取决策依据，难以做出理性反应；（2）谈判成本——缺乏可质疑的抓手，用户与系统之间无法就决策结果进行有效协商；（3）执行与监督成本——决策不可追溯，错误无法归因，问责机制失效。这三层成本叠加，构成了算法时代信任缺失的经济代价。

二、可质疑性：算法信任的制度内核

2.1 从"可理解"到"可质疑"

在房贷审批场景中，如果系统仅回复"综合评分不足"便拒绝申请，而申请人无法追问、无法申诉、也无法验证自己是否受到公平对待，信任便会发生崩塌。真正能让用户恢复信任的回复应当是："系统记录到您近期有三次逾期，且集中在最近半年；若补充近三个月收入证明，可申请复评。"

用户不必理解模型的全貌，但有权追问"凭什么"——这便是可质疑性（contestability）。与"可理解性（understandability）"不同，可理解性只要求让人"看得懂"，而可质疑性要求系统提供可被用户行动、核验、申诉的决策依据，并建立异议与复评通道。用户据此去申诉，申诉成功与否仍由系统依规则裁决。可质疑性的本质是：不要求你看懂一切，只要求你手里有抓手。

正如正当程序不要求公民读懂刑法全文，但要求法院告知被诉罪名、出示证据并保障辩护权——可质疑性是算法信任的"正当程序"底线。

2.2 可质疑性的制度要件

可质疑性不是一个抽象理念，它需要四项制度要件支撑：

第一，决策依据的可获取性。 系统必须能够提供支撑具体决策的关键因子，而非仅输出结论。

第二，异议通道的可达性。 用户应有便捷、低成本的渠道提出质疑并申请复评。

第三，复评机制的独立性。 复评不应由原决策模型自动完成，而应有独立的人工或算法审查环节。

第四，后果的可追溯性。 系统应留存决策日志，确保每一笔决策均可被事后审计。

这四项要件共同构成了算法信任的"最低制度底线"——不要求每一步都透明，但要求在关键节点上用户拥有可行动的抓手。

三、可解释AI的经济学意义：透明度的最优均衡

3.1 可解释AI的目标：从黑箱到"原则上可审计"

可解释AI（XAI）的核心目标不是让每一个参数都变得可读，而是将黑箱转化为原则上可审计的状态。它的经济学意义在于同时实现三件事：让用户知道"为什么"（降低信任成本）、让出错时能找到源头（降低纠错成本）、让采纳系统的组织敢于部署（降低合规成本）。

3.2 透明度不是越多越好：边际均衡分析

透明度并非越高越好。对透明度的解释需要保持在合理区间——过多解释等同于噪音。几乎没有人会在读完一份完整模型说明后再决定是否接受贷款，这种状态与被信息淹没的黑箱没有实质区别。

最优透明度是一个边际均衡点：解释的边际收益等于解释的边际成本。决策重要性越高、出错代价越大，平衡点就越靠近透明那一侧；用户认知能力越强，平衡点也相应上移。例如，房贷审批需要细化到具体扣分项，而内容推荐只需说明"因为你听过类似风格"。这是典型的成本—收益权衡问题。

要理解这一均衡点，需要将成本分拆到三个主体：用户侧承担解释不足带来的信任成本——不敢交易、无法补救、申诉无门；供给侧承担生产解释、留存日志、独立审计、持续合规校验的实施成本；监管侧承担核验与追责的监督成本。所谓最优透明，不是某一方的成本最小化或收益最大化，而是这三类成本—收益加总后的综合均衡。

3.3 信任从道德选项变成经济必需品

一个可审计的AI系统，合规成本低、客户敢用、监管敢批。反过来，一个说不清决策依据的硅基协作者，无论其输出质量多高，在信贷、医疗、司法等严肃场景中都难以进入正式制度。这并非因为人类不开放，而是不可审计的事物无法嵌入正式经济制度——正如我们不会与拒绝签合同的人进行大额交易。

可解释性不是道德标签，它是进入正式经济系统的入场券。谁先将可解释性做到位，谁就省下了最昂贵的一笔隐性成本：信任重建费——即为重建信任而投入的解释、审计、申诉等各项显性与隐性成本的总和。这是算法场景下最容易被低估的竞争变量。

3.4 可解释本身也是交易成本

可解释不是免费午餐。做审计、写说明、留日志、过合规，都要消耗真实资源。简单模型的解释成本低，复杂模型的解释成本高，且往往模型越有用，解释越昂贵。于是出现一个张力：最有解释必要的场景（医疗、司法、信贷），恰恰是最难解释的场景。

这意味着"全面可解释"几乎是一个伪目标。现实的选择是：在哪些环节支付这笔成本、支付到什么程度。监管需要的是关键节点可审计，而非每一步都透明；企业应当将解释资源集中在容易出事且需要担责的地方，而非在每一环节平均用力。

四、碳基伦理官+硅基模拟器：治理结构的雏形

4.1 分工逻辑：不是"人机各管一半"

碳硅共生的治理结构，不是将一半权力留给人、另一半交给机器。真实的分工是：

碳基伦理官负责三件事：写目标函数（优化什么、不优化什么）、设红线（哪些后果绝对不可接受）、做终审（在硅基推演出的多个"最优"方案之间做价值判断）。

硅基模拟器负责三件事：穷举所有可行方案、推演每种方案的二阶与三阶后果、标注"如果选A，在B条件下会触发C风险"。

首要的关键问题是：碳基伦理官审查的是目标函数本身。如果目标函数写歪了（例如"让点击率最高"），硅基越努力推演，结果越糟糕。因此，治理的焦点永远是：谁有权修改目标函数？ 这一修改权不能交给优化过程本身，因为优化过程没有目的感——它只会将既定目标推演到极致，哪怕该目标本身是错的。

其次，碳基伦理官也不能被理想化。人不是价值中立的裁判，同样存在认知偏见与利益俘获的可能。治理结构应当是双层约束：碳基为系统划定价值边界，而碳基本身也要受到独立监督、利益隔离与定期问责。谁给价值划界，谁就要被监督——形成闭环。

4.2 行业差异：同一套逻辑，不同的透明度水位

可质疑性的实现方式因行业风险特征而异，同一套治理逻辑落地为不同的透明度水位。

医疗场景要求最高透明度。碳基伦理官须确保方案符合临床指南且患者知情同意，硅基模拟器须输出具体依据——援引版本、对照数据、排除项。因决策直接关联生命健康，出错代价极高，医患双层主体均需审查，高透明度是底线而非奢侈。

金融信贷场景处于中高位。碳基伦理官聚焦公平性与合规性，硅基模拟器须输出具体扣分项与复评路径，使借款人可针对性补救，同时满足监管的系统性审计需求。此场景需同时承载个体知情与公共问责双重维度。

内容推荐场景透明度要求最低。碳基伦理官仅守价值观底线，硅基模拟器输出排序概要即可。用户享有轻量级可质疑性——不感兴趣可划走或调偏好，无需理解数学细节。强行要求达到医疗或金融级透明度既不经济也无必要。

同一套逻辑，不同水位：医疗需"说得清依据"，金融需"说得清规则"，内容推荐只需"说得清概要"。强行统一标准，要么扼杀创新，要么制造虚假安全感。算法治理的未来，是分级、场景化地守住可质疑性这一最低底线。

五、结语

从人际信任到制度信任再到算法信任，信任的对象在扩大，基础在变化。我们曾经信任熟人，后来信任制度，现在被迫学会信任一套可审计的算法。

人类的每一次信任扩展似乎都是被迫的——从熟人社会走向法治社会，人们花了上百年才习惯"不认识法官也能打官司"。碳硅共生的数智时代同理：可解释AI就是智能时代的正当程序。它不保证AI永远正确，但要保证决策不是任意的、不可追溯的、不可质疑的。

碳基守着可质疑性的权利不放，硅基把可解释性做到成本最优——这就是碳硅共生中信任重建的基本规则。未来治理的核心矛盾，不再是"要不要透明"，而是如何在不同场景里，以最低的交易成本守住可质疑性这一条底线。