Hugging Face Blog·· 2 小时前精选
NVIDIA与IIT Madras等即将开放Nemotron-pretraining-Indic-v1及生成流程
Scaling Indic Pretraining: 2.8 Trillion Tokens and an Open Data Generation Pipeline
研究任务与主要进展
NVIDIA与IIT Madras AI4Bharat等宣布，Nemotron-pretraining-Indic-v1将提供约2.8万亿Token，覆盖22种印度语言的原脚本数据及其中12种语言的拉丁字母转写，共34种语言—脚本配置。
阶段、条件与复现 · 深读核对
- 新能力对应什么具体任务与最小输入输出？
- 代码、模型、数据、许可与可用入口是否明确？
- 效果、总成本、失效条件与实际工作流如何验证？
这些是阅读核对问题；材料未说明的条件保留未知。请阅读原文核验。
本站判断
这项发布以约2.8万亿Token的多语种预训练语料和可复用的GPU加速生成流程为核心增量，并开放来源追踪、质量评分与定向修复配方。其模型增益证据来自同时混合合成与自然印度语言数据的继续预训练阶段，尚未隔离完整语料及各语言、脚本配方的贡献。本站设想：可在固定训练预算下分别消融自然与合成数据占比及原脚本、转写比例，比较各语言能力与英语能力保持。
来源：Hugging Face Blog · huggingface.co