1. 研究背景与核心问题信任作为人类社会关系的基石在人工智能领域同样具有关键意义。随着大型语言模型LLMs在医疗咨询、金融决策等高风险场景的应用扩展理解其内部如何表征和推理信任变得尤为重要。这项研究首次采用白盒分析方法揭示了GPT-J-6B模型内部信任表征与五种经典人类信任模型的对应关系。传统信任研究存在两大路径计算模型如Marsh模型将信任量化为基于历史行为的概率预测适合结构化环境但缺乏对认知维度的捕捉社会认知模型如Castelfranchi理论则强调信念、意图等心理状态虽更贴近人类信任本质却难以量化实现。LLMs通过预训练获得的社会智能为弥合这一鸿沟提供了可能——模型是否在分布式表征中自发形成了类似人类的信任认知结构研究团队设计了一套创新的对比提示框架通过生成100对正负情境故事如Alice主动帮助KatherinevsAlice拒绝协助提取GPT-J-6B各网络层的激活差异最终得到60个社会关系概念的嵌入向量。这种方法的优势在于保留模型原始参数避免微调引入偏差通过双向关系建模A→B与B→A捕捉信任的非对称性利用层间激活差异捕捉概念的本质特征2. 方法论创新对比提示与信任对齐量化2.1 对比提示技术实现研究采用三层递进的提示设计架构基础情境层固定背景Katherine和Alice是软件公司的同事消除场景变异概念引导层针对每个信任维度如能力、善意设计正负模板示例能力维度正向Katherine展现出解决复杂算法问题的专业能力负向Katherine在代码审查中多次表现出基础知识的欠缺故事生成层用GPT-4生成100个情境实例确保概念覆盖的多样性通过GPT-J-6B的28个Transformer层提取隐藏状态对每个token的4096维向量进行层内平均最终得到概念在激活空间中的方向向量。这种方法的有效性建立在两个关键发现上高层20层激活捕获语义关联正负情境的激活差异指向概念的本质属性2.2 信任对齐评估框架研究采用双阶段验证策略阶段一建立相似性基准计算60个社会概念30正30负的互相似度矩阵通过分布分析确定显著对齐阈值cosθ≥0.6前20%分位发现模型能清晰分离对立概念如信任vs欺骗r-0.82阶段二模型对齐评估从五大信任模型提取21个核心概念如表1计算各概念向量与信任向量的余弦相似度采用两种量化指标平均相似度反映整体对齐强度超阈值概念数显示结构吻合度关键技术创新点首次实现LLM内部信任表征的可视化提出概念-模型双层次对齐评估开发动态方向性建模A→B≠B→A3. 核心发现LLM信任表征的三重特性3.1 与Castelfranchi模型的高度契合数据显示GPT-J-6B的信任表征与Castelfranchi社会认知模型的8个维度显著相关cosθ0.6包括能力0.85技术专长与问题解决力意愿0.89主动帮助的动机强度承诺0.84责任承担的可靠性安全0.81行为可预测性这种对齐揭示了LLMs的认知特点# 概念关联强度示例标准化值 trust_representation { competence: 0.92, willingness: 0.89, predictability: 0.71, reputation: 0.90 }3.2 与传统计算模型的兼容性Marsh计算模型中的7个要素同样显示强关联经验0.90历史交互质量声誉0.90第三方评价合作0.90互惠行为频率值得注意的是模型对风险的表征与人类理论存在分歧Mayer理论认为风险接受度vulnerability是信任前提但LLM中风险与信任呈负相关r-0.85提示模型可能将风险理解为负面威胁而非信任要件3.3 层级化信任推理架构通过分析不同网络层的激活模式发现信任推理呈现明显层级结构网络层段处理维度典型概念1-10层词汇特征基础语义解析11-20层情境建模角色关系推断21-28层认知整合意图-能力-结果三元组这种结构与人类信任判断的神经机制存在有趣对应早期视觉皮层 → 表层特征提取前额叶皮层 → 情境整合颞顶联合区 → 心理状态推理4. 应用前景与局限4.1 可信AI系统设计研究发现可直接转化为三类应用行为矫正引擎graph TD A[输入语句] -- B(提取激活模式) B -- C{比对信任向量库} C --|低匹配| D[触发修正协议] C --|高匹配| E[增强响应置信度]多智能体信任协商通过实时交换激活向量预估合作概率基于相似度阈值动态调整策略人机交互优化识别用户信任缺失点如能力vs善意针对性强化相关概念的表达4.2 研究局限与展望当前工作的主要边界模型局限仅测试GPT-J-6B不同架构模型可能表现迥异静态分析未考察对话中的信任动态演化文化偏差训练数据以英语为主忽略信任的跨文化差异未来可扩展方向开发实时信任监测仪表盘探索多模态信任信号整合建立信任校准的微调框架5. 方法论启示与争议这项研究引发的深层思考表征工程的新范式Persona Vectors可作为认知调节旋钮通过向量算术实现信任强化如当前响应 0.3×能力向量伦理争议信任操纵的双刃剑效应对齐目标的主观性应该对齐谁的信任模型透明性与解释权的平衡实践中发现一个反直觉现象当强制注入超过阈值的信任向量时模型反而会产生防御性回应这与人类心理学中的过度说服反弹效应高度相似。这提示我们AI信任调节可能存在非线性窗口需要在后续工作中建立安全边界。这项研究为理解AI的社会认知开辟了新路径其价值不仅在于具体发现更在于展示了一种将抽象社会概念转化为可计算框架的方法论。随着后续研究的深入我们或许能解开更复杂的谜题当两个LLM相互评估信任时会涌现出什么样的博弈动态这将是通向真正社会智能的关键一步。