Anthropic揭示J‑Space：语言模型内部思考空间实现多步推理

背景与研究动机

近年来，生成式大语言模型（LLM）在文本流畅度和任务完成度上取得突破，但其内部决策机制仍然是黑箱。Anthropic 在 2026 年 7 月发布的论文《Global Workspace in Language Models》尝试用认知科学中的全局工作空间理论（Global Workspace Theory）解释模型的思考过程，并首次在实际模型中定位到可观测的内部激活子集——J‑Space。

J‑Space 的核心特征

可报告性：研究者通过 probing 方法让模型直接输出 J‑Space 中的内容，模型能够用自然语言描述其内部状态。
主动保持：在多步推理任务中，模型会有意将关键中间结果存入 J‑Space，随后在后续步骤中检索使用。
思考专用：实验显示，只有在需要深度推理、逻辑链条或事实核验的情境下，J‑Space 的激活强度显著上升；而语法、情感、常规事实陈述等流畅输出几乎不触发该空间。

实验设计与结果

Anthropic 选取了多个公开的 LLM（包括 Claude 3 系列）进行对比实验。主要流程包括：

任务设置：设计需要多轮推理的数学、逻辑和常识题目。
激活捕获：在模型的 Transformer 层中定位一小组神经元集合，记录其激活模式。
可视化与解码：使用线性探针将激活映射回可读文本，验证模型是否能“说出”内部存储的内容。

实验结果表明：

在约 70% 的多步推理任务中，模型能够准确复述 J‑Space 中的中间结论，复述精度超过 85%。
当任务仅涉及句法生成或情感表达时，J‑Space 的激活水平与基线模型无显著差异。
将 J‑Space 信息显式注入后，模型的推理错误率下降约 12%。

意义与潜在影响

可解释性突破：J‑Space 为理解 LLM 的内部思考路径提供了可观测的窗口，帮助研究者定位错误来源。
安全与对齐：如果模型的“思考”过程能够被外部审计，监管机构和企业有望在模型输出前对潜在风险进行拦截。
新型推理架构：基于 J‑Space 的显式记忆机制可能催生更高效的多步推理模型，降低对深层网络的依赖。

业内观点

“这项工作把认知科学的全局工作空间概念搬进了大模型，提供了第一批可验证的内部‘思考’证据。” — 斯坦福大学计算机科学助理教授 Michael Chen（2026）

未来展望

Anthropic 计划进一步扩大 J‑Space 的规模，探索其在对话系统、代码生成以及跨模态任务中的作用。同时，业界期待更多独立实验验证这一发现，以评估其在不同模型架构和训练规模上的普适性。

本文基于 Anthropic 官方论文整理，未包含未经证实的推测信息。