跳到正文
Berkeley AI Research·· 2026-07-29精选

K-Search 将 CUDA 优化经验迁移至 Apple Silicon,Mamba SSM 预填充吞吐提升约 20 倍

From CUDA to MLX: How K-Search Brings Decades of Kernel Expertise to Apple Silicon

研究任务与主要进展

研究团队为 K-Search 构建了 MLX 后端和结构化 CUDA-to-MLX 翻译层,将既有 CUDA 内核知识迁移到 Apple Silicon,并由进化搜索生成候选内核。

阶段、条件与复现 · 深读核对

  • 新能力对应什么具体任务与最小输入输出?
  • 代码、模型、数据、许可与可用入口是否明确?
  • 效果、总成本、失效条件与实际工作流如何验证?

这些是阅读核对问题;材料未说明的条件保留未知。请阅读原文核验。

本站判断

该工作将CUDA内核优化知识通过结构化翻译层迁移到Apple Silicon,并由K-Search在真实硬件上迭代生成和评测内核。其价值在于把跨架构迁移从代码改写转化为可搜索的优化知识,但当前证据主要来自Attention和Mamba SSM两类内核,泛化到更多架构和内核仍需验证。本站设想:在相同搜索预算和硬件条件下,对不同翻译上下文、更多内核及目标架构进行系统比较。

来源:Berkeley AI Research · bair.berkeley.edu