跳到正文
arXiv · cs.AI· Luis F. Rosario Freytes·· 11 小时前

Transformer训练依赖的计算语义与有效架构研究

Architecture Before the Formula: Training-Dependent Computational Semantics in Transformers

arXiv:2601.11618v4阅读论文 PDF ↗

仅依据论文摘要整理;未读取全文,实验条件、证明与基准细节请核对原文。

作者:Luis F. Rosario Freytes

研究任务与主要进展

基于论文摘要,作者提出一种“深度学习外部主义”计算语义,分析Transformer中输入输出功能、生产者上下文和接收者能力共同决定计算角色的机制。作者在带维度标记的PreNorm Transformer中给出训练依赖的有效架构关系,并报告梯度下降训练下的衰减模型及输入条件注意力的约化预测状态;论文全文中的实验、基准和证明细节未提供。

阶段、条件与复现 · 深读核对

  • 新能力对应什么具体任务与最小输入输出?
  • 代码、模型、数据、许可与可用入口是否明确?
  • 效果、总成本、失效条件与实际工作流如何验证?

这些是阅读核对问题;材料未说明的条件保留未知。请结合上方论文版本、资料范围与原文核验。

来源:arXiv · cs.AI · arxiv.org