logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

沐曦MCX500安装llama factory

本文介绍了在d.run算力云上安装沐曦显卡并配置llama factory的过程。首先修复了MCX500容器初始化报错问题,通过修改conda.sh文件防止自动激活base环境。随后下载并安装了沐曦专用的PyTorch 2.6版本及其相关组件,配置了必要的环境变量。最后完成了llama factory的安装和环境配置,并通过命令行验证了安装成功。整个过程涉及容器初始化修复、专业版PyTorch安装

#人工智能#nlp#自然语言处理 +1
pytorch 与资源核算

这篇文章深入解析了PyTorch训练大模型时的资源核算方法,主要包括两个核心场景: 时间估算:通过"餐巾纸计算"法快速估算训练时间。文章详细推导了著名的6ND公式(6×参数量×Token数),解释了前向传播2倍和反向传播4倍的计算量来源,并以1024张H100显卡训练70B参数模型为例,估算出约需146天。 内存估算:分析了训练时显存占用的关键组成部分(参数、梯度和优化器状态)

文章图片
#pytorch#语言模型
Agent心智架构:感知一推理一行动循环

这篇文章介绍了一个AI Agent的心智架构实现,核心是一个感知-推理-行动的循环过程。文章提供了详细的Python代码示例,展示如何构建一个具有工具调用能力的Agent系统。代码包含以下关键部分: 环境配置和安全措施:使用dotenv管理环境变量,实现路径安全检查防止恶意访问 工具函数实现:包括bash命令执行工具,包含危险命令检测和超时限制 系统架构:基于OpenAI API构建,采用工具分发

#自然语言处理#nlp
驾驭 Claude 的智能(Harnessing Claude’s intelligence)

Anthropic 的联合创始人之一 Chris Olah,像 Claude 这样的生成式 AI 系统更多是成长而非构建。研究人员设定了引导增长的条件,但具体的结构或能力并不总是可预测的。这给基于 Claude 的开发带来了一个挑战:智能体框架(agent harnesses)中编码了关于 Claude 自身无法完成哪些任务的假设,但随着 Claude 能力不断增强,这些假设会逐渐过时。即使是像本

文章图片
#nlp#自然语言处理#人工智能
赋予智能体技能,让其胜任现实世界任务

本文介绍了如何通过"技能"机制赋予智能体完成现实任务的能力。技能是一个包含SKILL.md文件的目录,采用渐进式披露原则:元数据层让智能体知道何时使用技能,而完整内容仅在需要时加载。技能可以包含指令文档、代码脚本等资源,使智能体既能获取知识又能执行确定性操作。文章以PDF处理为例,展示了技能如何通过上下文窗口触发和工作,并提供了开发技能的最佳实践,包括从评估需求开始、模块化设计

文章图片
#语言模型
驾驭 Claude 的智能(Harnessing Claude’s intelligence)

Anthropic 的联合创始人之一 Chris Olah,像 Claude 这样的生成式 AI 系统更多是成长而非构建。研究人员设定了引导增长的条件,但具体的结构或能力并不总是可预测的。这给基于 Claude 的开发带来了一个挑战:智能体框架(agent harnesses)中编码了关于 Claude 自身无法完成哪些任务的假设,但随着 Claude 能力不断增强,这些假设会逐渐过时。即使是像本

文章图片
#nlp#自然语言处理#人工智能
编排者的时代:从单兵工具到群体智能的认知跃迁

在 AI 演进的图谱中,这是一个关键的范式转移。工具(Tool):被动的。你需要明确指令(Prompt),它返回计算结果。它像一把锤子,需要你挥动。智能体(Agent):主动的。它能主动感知环境变化、自主规划执行路径、并最终拿到结果(Outcome),而非仅仅输出内容(Output)。当 Agent 越来越强,我们与它们的关系不再是主仆,而是共生伙伴。软件工程正在从“逻辑的编写”演变为“意图的编排

#自然语言处理
多Agent系统的编排

多Agent系统正成为下一代AI架构的核心范式。该系统通过角色分工、协议标准化和拓扑结构实现高效协作,其中编排器承担流程控制、资源调度等关键职责。系统采用投票、辩论、仲裁和共识四种机制处理冲突,将对抗转化为智能涌现的源泉。更前沿的自组织模式借鉴蚁群行为,实现去中心化、动态分工和基于信誉的进化,展现出群体智能的独特优势。从单体Agent到多Agent系统的演进,不仅实现了能力突破,更重新定义了智能协

文章图片
#人工智能#自然语言处理#语言模型
多Agent系统的编排

多Agent系统正成为下一代AI架构的核心范式。该系统通过角色分工、协议标准化和拓扑结构实现高效协作,其中编排器承担流程控制、资源调度等关键职责。系统采用投票、辩论、仲裁和共识四种机制处理冲突,将对抗转化为智能涌现的源泉。更前沿的自组织模式借鉴蚁群行为,实现去中心化、动态分工和基于信誉的进化,展现出群体智能的独特优势。从单体Agent到多Agent系统的演进,不仅实现了能力突破,更重新定义了智能协

文章图片
#人工智能#自然语言处理#语言模型
Byte-Pair Encoding (BPE) Tokenizer

摘要:本文介绍了字节对编码(BPE)令牌化器的实现原理。首先阐述了Unicode标准及其编码方式,重点比较了UTF-8、UTF-16和UTF-32三种编码在分词器训练中的优劣,指出UTF-8因其空间效率、跨语言通用性和计算效率成为首选。然后探讨了子词标记化的折中方案,详细说明了BPE分词器的训练过程,包括词表初始化和预分词步骤。BPE通过合并高频字节对来优化输入序列压缩率,在保留字节级处理能力的同

#人工智能#nlp#自然语言处理
    共 11 条
  • 1
  • 2
  • 请选择