给AI喂源码,它就能成功写出算子吗?

我们曾尝试让Agent参考官方源码生成4个算子,最终仅1个成功。 

问题在于找到源码,并不意味着Agent已经理解了内在知识,如实现条件和使用边界。让AI做好专业开发,不仅需要模型能力,还需要准确、适用、可复用的技术知识。

而这些知识的组织和使用,正面临三大隐性成本:

知识分散维护,共享与更新成本高

早期,知识常存放在各个Skill的references中。239个Skill中,150个包含这类目录,占62.8%。同一项接口约束或调试经验可能被重复收录,改一处,其他地方都得跟着改,容易遗漏或产生版本不一致。

源码可见,设计意图仍需重新梳理

执行逻辑、接口约束、适用条件,这些决定代码能否跑通的关键信息,往往散落在不同文件中。Agent即使找到相似实现,也需要自行梳理其实现逻辑、设计依据和适用条件,才能判断哪些部分可用于当前任务。

经验沉淀不足,重复试错难以避免

开发中验证过的修复方法、排错经验,如果只留在单次会话中,就难以被后续任务直接利用。同样的问题,下次遇到,仍需要重新搜索、排查、试错。

CANN知识库(cannbot-knowledge)由此出发,将散落的知识,编译为可复用的工程资产。

文档、源码、开发记录中的技术知识,被统一提炼为可检索、可核验、可更新的知识卡,为设计、实现、调试与优化提供统一的知识入口。

从原始资料到知识卡:提炼,而非简单搬运

知识库采用三层架构组织:原始资料保留知识依据,知识卡提炼可复用知识,查询索引帮助检索知识。

不同资料,有不同的提取方法:

  • 📄 文档:整理接口含义、参数限制及版本要求

  • 💻 源码:梳理执行路线、模板选择、数据搬运机制,明确适用条件

  • 📝 开发轨迹:提炼问题原因、修复方法、验证结果,合并同类经验,形成排错和优化指南

提取结果经查重、检查与审核后入库,依据不足的结论暂缓收录。

这些知识卡由知识库统一维护,可供不同Skill在执行任务时按需查阅,让Skill专注于任务流程,减少技术资料的重复收录与多处更新。

任务中如何使用:先筛选,再阅读,按需核验

Agent可像查字典一样按需查阅知识:先按问题、技术范围和目标平台筛选候选知识卡,再通过摘要判断相关性,仅阅读相关卡片的正文,必要时追溯原始资料核验。

执行复杂任务时,可围绕不同决策点分别查询,再综合判断。

这种逐层筛选、按需深入的方式,减少了无关内容的读取与Token消耗,同时保留了核对来源的能力。

上游版本变化后:定位影响,增量更新

每张知识卡记录原始来源,便于在CANN文档或源码更新时定位受影响的内容。更新流程为:

同步新版本 → 比对差异 → 修订相关卡片 → 检查与审核 → 更新索引

根据上游变化增量修订相应知识卡,必要时新增卡片或标记旧知识不再适用,审核合并后供后续任务使用。

这,就是CANN知识库正在做的事——不是文档堆砌,而是知识编译。

文档整理让知识静止,而编译让知识持续流动。这种流动并非无序:每条结论都关联原始来源,可核验;每张卡片都有生命周期,可更新;每项知识关联都经核对后建立,受治理。

正是这种治理机制,让效果也经得起验证。对比原始Flash直调工作流与接入知识库后的工作流,在两个模型下两组的总分分别提高 13.40% 和 7.39%。

这些数字背后,是正在持续生长的CANN知识生态。

我们诚挚邀请高校和社区开发者共同参与:补充有依据的技术知识,贡献经过验证的排错经验,反馈缺失或过时的内容。让每一份实践积累,都能帮助更多开发者与Agent。让每一次成功,成为可复用的工程资产;让每一份贡献,融入生态的持续发展。

👉体验【CANN】知识库,点击原文链接直达。

原文链接:https://gitcode.com/cann/cannbot-knowledge

Logo

CANN开发者社区旨在汇聚广大开发者,围绕CANN架构重构、算子开发、部署应用优化等核心方向,展开深度交流与思想碰撞,携手共同促进CANN开放生态突破!

更多推荐