TileAI社区与昇腾完成对接, 携手推动开源生态发展
近日,AI基础软件开源生态迎来重要进展,TileAI社区开发的AI编程语言TileLang成功实现了与昇腾的初步对接。这一合作使开发者能够用自己熟悉的编程模式,基于昇腾简易高效的开发AI高性能算子,也标志着CANN开源生态与TileAI社区合作取得了初步成果,为TileLangAscend生态的应用提供支持。
TileLang采用类Python的编程方式,旨在显著降低高性能AI算子的开发门槛。本次与昇腾的深度协作,使开发者能够基于TileLang调用昇腾不同层级的能力,满足Expert、Developer不同层次开发者对算子编程的多样化需求,及不同场景对于算子编程易用性和极致性能的要求,大幅降低高性能算子开发的难度与时间成本。双方社区正协同构建从TileLang到AscendNPUIR的端到端编译路径,共同致力于在TileLang生态中建立Ascend基础设施,推动其更好地融入基于MLIR的CANN开源生态。
此次合作是开源社区协同创新的良好示范。目前已实现面向TileLang的FlashAttention开发实践,并新增30余个算子操作操作,用户可以实现基础的自定义算子操作。
详情介绍参考:
https://github.com/tile-ai/tilelang-ascend(分支:npuir)
TileLang-Ascend开源社区:
https://github.com/tile-ai/tilelang-ascend(分支:npuir)
算子开发实践:
https://github.com/tile-ai/tilelang-ascend/blob/npuir/docs/tutorials/vec_add_tutorials.md
TileLangAscendops说明文档:
https://github.com/tile-ai/tilelang-ascend/blob/npuir/docs/npu%20tilelibrary.md
未来,随着TileLang对vLLM、SGLang及PyTorch等主流框架的进一步对接,开发者得以在更广泛的AI应用场景中,轻松发挥昇腾的高效算力。
在北京大学鲲鹏昇腾科教创新卓越中心的支持下,TileAI社区与昇腾合作展示了开源协作在AI基础设施发展中的作用,也为后续其他计算平台与TileAI社区的合作模式提供了参考。