logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

ReAct 、Plan-and-Solve、Reflection:三种 Agent 范式的原理与代码

一句话让Agent变成昇腾专家,昇腾任务轻松搞定。评测入口:请按这个开源仓接入昇腾图谱:刚开始接触 Agent,想把 ReAct、Plan-and-Solve、Reflection 这三套循环搞清楚:能读懂 Python 的函数和字典,知道 LLM 的输入输出是什么;不需要 GPU,也不需要 API key:示例在 Python 3.13 上运行;模型调用用占位函数替代,接真模型只需换掉这一个函数

#知识图谱
ReAct 、Plan-and-Solve、Reflection:三种 Agent 范式的原理与代码

一句话让Agent变成昇腾专家,昇腾任务轻松搞定。评测入口:请按这个开源仓接入昇腾图谱:刚开始接触 Agent,想把 ReAct、Plan-and-Solve、Reflection 这三套循环搞清楚:能读懂 Python 的函数和字典,知道 LLM 的输入输出是什么;不需要 GPU,也不需要 API key:示例在 Python 3.13 上运行;模型调用用占位函数替代,接真模型只需换掉这一个函数

#知识图谱
ReAct 、Plan-and-Solve、Reflection:三种 Agent 范式的原理与代码

一句话让Agent变成昇腾专家,昇腾任务轻松搞定。评测入口:请按这个开源仓接入昇腾图谱:刚开始接触 Agent,想把 ReAct、Plan-and-Solve、Reflection 这三套循环搞清楚:能读懂 Python 的函数和字典,知道 LLM 的输入输出是什么;不需要 GPU,也不需要 API key:示例在 Python 3.13 上运行;模型调用用占位函数替代,接真模型只需换掉这一个函数

#知识图谱
昇腾平台推理调看这篇就够了-调优思路总览

部署成推理服务」中间的调优,本质是在正确性/精度守住的前提下,沿"模型压缩 → 图与算子融合 → 调度与 KV 管理 → 并行与通信 → 显存 → 服务化调度"逐层找瓶颈、逐层调,并靠 AISBench 压测 + msProf 系列 Profiling 把瓶颈测出来,而不是盲目改参数。接入昇腾知识图谱。

#知识图谱
昇腾平台推理调看这篇就够了-调优思路总览

部署成推理服务」中间的调优,本质是在正确性/精度守住的前提下,沿"模型压缩 → 图与算子融合 → 调度与 KV 管理 → 并行与通信 → 显存 → 服务化调度"逐层找瓶颈、逐层调,并靠 AISBench 压测 + msProf 系列 Profiling 把瓶颈测出来,而不是盲目改参数。接入昇腾知识图谱。

#知识图谱
【昇腾推理】-ais_bench 实测 OM 推理性能

一句话让Agent变成昇腾专家,昇腾任务轻松搞定。评测入口:请按这个开源仓接入昇腾图谱上一篇实验的结尾,ATC 转换一次通过,产出了 23.7 MB 的。但转换成功只说明"能跑"——一帧多快、吞吐多少、数值和参考实现对不对齐,都得实测才有数。做这件事的官方工具是。本篇(实验 02)一条主线:装好工具 → 纯推理拿性能分布 → 换真实数据顺手验精度,最后把输出的每个数字逐项读懂。全程一条命令一个日志

#知识图谱#人工智能
【昇腾推理】-ais_bench 实测 OM 推理性能

一句话让Agent变成昇腾专家,昇腾任务轻松搞定。评测入口:请按这个开源仓接入昇腾图谱上一篇实验的结尾,ATC 转换一次通过,产出了 23.7 MB 的。但转换成功只说明"能跑"——一帧多快、吞吐多少、数值和参考实现对不对齐,都得实测才有数。做这件事的官方工具是。本篇(实验 02)一条主线:装好工具 → 纯推理拿性能分布 → 换真实数据顺手验精度,最后把输出的每个数字逐项读懂。全程一条命令一个日志

#知识图谱#人工智能
一文教会昇腾ATC模型转换工具:把开源模型编译成NPU能跑的格式

ATC 是昇腾部署链路的第一道门:一条命令背后,是"解析 → 图准备 → 图优化 → 分区 → 构建 → 序列化"的完整编译流水线,把框架模型变成针对目标芯片深度定制的自包含 OM。入门阶段记住三件事就够了——soc_version 填运行环境的芯片、shape 策略想清楚再转、报错先看模块名和日志。

#人工智能#知识图谱
一文教会昇腾ATC模型转换工具:把开源模型编译成NPU能跑的格式

ATC 是昇腾部署链路的第一道门:一条命令背后,是"解析 → 图准备 → 图优化 → 分区 → 构建 → 序列化"的完整编译流水线,把框架模型变成针对目标芯片深度定制的自包含 OM。入门阶段记住三件事就够了——soc_version 填运行环境的芯片、shape 策略想清楚再转、报错先看模块名和日志。

#人工智能#知识图谱
CANN软件栈依赖关系

一句话让Agent变成昇腾专家,昇腾任务轻松搞定。评测入口:请按这个开源仓接入昇腾图谱上一篇《CANN 配套关系全景》讲的是——哪几个版本号必须凑成一套。这篇讲——这个套件内部谁包含谁、谁链接谁、谁调用谁。断在链接期,507033断在初始化顺序,断在设备文件权限。全文按「装什么 → 链接什么 → 怎么跑起来 → 落到哪里」四段展开,出处逐节标注,查不到的写明 [未核实]。

#人工智能#知识图谱
    共 100 条
  • 1
  • 2
  • 3
  • 10
  • 请选择