arXiv · cs.AI· Kimia Kazemian, Menghan Xu, John Thickstun, Sarah Dean·· 2 天前
空间归纳头：多维细胞自动机的上下文学习
Spatial Induction Heads: In-Context Learning of Multidimensional Cellular Automata
arXiv:2610.09124v1阅读论文 PDF ↗
仅依据论文摘要整理；未读取全文，实验条件、证明与基准细节请核对原文。
作者：Kimia Kazemian, Menghan Xu, John Thickstun, Sarah Dean
首次提交：2026-10-07 05:16
研究任务与主要进展
研究者提出“空间归纳头”，用两层收集—匹配电路解决多维数据扁平化后空间邻居分散在序列远处的问题。作者给出了两种收集实现和贝叶斯计数匹配层，摘要称其位置维度只依赖局部邻域与空间维度；在基于摘要的实验中，两层 Transformer 能泛化到一维和二维未见规则，确定性规则实现近完美滚动预测，随机规则与贝叶斯最优预测器的差距低于 0.005 nats KL。
阶段、条件与复现 · 深读核对
- 新能力对应什么具体任务与最小输入输出？
- 代码、模型、数据、许可与可用入口是否明确？
- 效果、总成本、失效条件与实际工作流如何验证？
这些是阅读核对问题；材料未说明的条件保留未知。请结合上方论文版本、资料范围与原文核验。
来源：arXiv · cs.AI · arxiv.org