logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

Python 高手编程系列三十四:抽象语法

Python 语法首先被转换成抽象语法树(Abstract Syntax Tree,AST),然后才被编译成字节码。这是对源代码抽象语法结构的一种树状表示。利用内置的 ast 模块,可以得到对Python 语法的处理过程。利用带有 ast.PyCF_ONLY_AST 标记的 compile()函数或者利用 ast.parse()帮助函数,可以创建 Python 代码的原始 AST。逆向直接转换却没

Python 高手编程系列三千四百三十四:抽象语法树

返回26/100Python 语法首先被转换成抽象语法树(Abstract Syntax Tree,AST),然后才被编译成字节码。这是对源代码抽象语法结构的一种树状表示。利用内置的 ast 模块,可以得到对Python 语法的处理过程。利用带有 ast.PyCF_ONLY_AST 标记的 compile()函数或者利用 ast.parse()帮助函数,可以创建 Python 代码的原始 AST。

CANN AMCT量化压缩工具快速上手:Min-Max/AWQ/GPTQ算法在昇腾NPU上让大模型体积缩小4倍的完整操作流程——手把手从环境安装到模型部署的步步实操

py.test 中的典型解决方案要容易得多。在我们的例子中,我们使用了 py.test 框架中的 monkey-patching 实用程序,但。在上面的代码中,我们使用了一个新的 pytest.yield_fixture()装饰器。Python 中有很多模拟库,但最常见的是 unittest.mock,标准库中也提供了该库。例中,我们手动执行了一切,并提供了一个自定义的 patch_smtplib

文章图片
Python 高手编程系列四百三十四:抽象语法树

返回26/100Python 语法首先被转换成抽象语法树(Abstract Syntax Tree,AST),然后才被编译成字节码。这是对源代码抽象语法结构的一种树状表示。利用内置的 ast 模块,可以得到对Python 语法的处理过程。利用带有 ast.PyCF_ONLY_AST 标记的 compile()函数或者利用 ast.parse()帮助函数,可以创建 Python 代码的原始 AST。

Python 高手编程系列十四:抽象语法

Python 语法首先被转换成抽象语法树(Abstract Syntax Tree,AST),然后才被编译成字节码。这是对源代码抽象语法结构的一种树状表示。利用内置的 ast 模块,可以得到对Python 语法的处理过程。利用带有 ast.PyCF_ONLY_AST 标记的 compile()函数或者利用 ast.parse()帮助函数,可以创建 Python 代码的原始 AST。逆向直接转换却没

CANN hccl集合通信库架构原理剖析:昇腾NPU分布式训练的AllReduce/AllGather通信协议深度解析——为什么Ring算法在大模型训练中比Mesh快30%以及梯度同步的流水线设计

函数和方法的名称应该使用小写加下划线。但在旧的标准库模块中并不总是这样。Python 3 对标准库做了大量重组,所以大多数函数和方法都有一致的大小写。不过对于某些模块(例如 threading)而言,你可以访问使用混合大小写(mixedCase)的旧的函数名称(例如 currentThread)。留着它们是为了更容易向后兼容,但如果你不需要在旧版Python 中运行代码,那么应该避免使用这些旧的名

文章图片
CANN AMCT量化压缩工具快速上手:Min-Max/AWQ/GPTQ算法在昇腾NPU上让大模型体积缩小4倍的完整操作流程——手把手从环境安装到模型部署的步步实操

py.test 中的典型解决方案要容易得多。在我们的例子中,我们使用了 py.test 框架中的 monkey-patching 实用程序,但。在上面的代码中,我们使用了一个新的 pytest.yield_fixture()装饰器。Python 中有很多模拟库,但最常见的是 unittest.mock,标准库中也提供了该库。例中,我们手动执行了一切,并提供了一个自定义的 patch_smtplib

文章图片
CANN ascend-transformer-boost深度实践:大语言模型推理在昇腾NPU上的KV Cache管理、Continuous Batching与算子融合调优实录

大语言模型推理与训练存在本质差异。训练阶段以批量数据吞吐为核心优化目标,而推理阶段则面临截然不同的压力组合:长序列输入带来的显存非线性增长、动态请求长度导致的批处理效率塌陷、以及Decoding阶段算力利用率低下等结构性矛盾。在昇腾NPU上运行LLM推理,如果沿用传统GPU时代的老路子,往往会在显存墙和调度效率上同时碰壁。

文章图片
CANN ascend-transformer-boost大模型推理加速库手把手实战:从环境搭建到Llama2-7B推理部署全流程

的 iterkeys()、itervalues()和 iteritems()本来返回的是迭代器,而 Python 3 中并。的 iterkeys()、itervalues()和 iteritems()方法返回的迭代器的特性。字典的 keys()、values()和 items()3 个方法的返回值类型不再是列表。视图对象既有旧的 keys()、values()和 items()方法返回的列表的特性

文章图片
CANN runtime与driver的边界与协作:从用户态API到内核态驱动,透彻理解昇腾NPU软件栈底两层的职责分工与协同机制

想搞清楚 runtime 和 driver 的边界,不妨从 CANN 软件栈的调用链路入手。用户代码调用 NPU 算子的那一刻,函数调用会沿着 CANN 的五层架构逐层下传:框架层(PyTorch Plugin / TensorFlow Plugin)→ 计算服务层(AOL 算子库,如 ops-nn、hccl 等)→ 计算编译层(GE 图引擎、TBE 算子编译器)→ 计算执行层(Runtime,a

文章图片
    共 110 条
  • 1
  • 2
  • 3
  • 11
  • 请选择