logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

阶段 3:历史容器与 Prompt 组装

文章摘要:历史容器与 Prompt 组装 本文介绍了AI系统中历史容器与Prompt组装的核心机制。关键点包括: 模型接收的是历史快照而非实时事件流,通过snapshot()方法实现浅拷贝隔离; Prompt构建包含input、tools和base_instructions三要素; 快照语义确保重试时能继承已提交事实,保证因果连续性; 演示展示了Prompt构建后追加历史不会影响当前Prompt,

文章图片
#自然语言处理
Agent的本质:从工具到伙伴

本文探讨了Agent从工具到伙伴的演变,分析了其核心技术特征和哲学意义。文章指出,Agent实现了人机交互范式的转变:从指令执行转向意图理解与协作。关键突破包括:1)模糊意图的精确解析能力;2)通过记忆系统构建身份连续性;3)上下文工程实现环境感知;4)任务分解的动态规划能力。这些特性使Agent具备类似人类伙伴的主动性和适应性,而不仅是机械执行工具。文章强调,高质量的上下文工程是提升Agent性

#nlp#自然语言处理
多Agent系统的编排

多Agent系统正成为下一代AI架构的核心范式。该系统通过角色分工、协议标准化和拓扑结构实现高效协作,其中编排器承担流程控制、资源调度等关键职责。系统采用投票、辩论、仲裁和共识四种机制处理冲突,将对抗转化为智能涌现的源泉。更前沿的自组织模式借鉴蚁群行为,实现去中心化、动态分工和基于信誉的进化,展现出群体智能的独特优势。从单体Agent到多Agent系统的演进,不仅实现了能力突破,更重新定义了智能协

文章图片
#人工智能#自然语言处理#语言模型
沐曦MCX500安装llama factory

本文介绍了在d.run算力云上安装沐曦显卡并配置llama factory的过程。首先修复了MCX500容器初始化报错问题,通过修改conda.sh文件防止自动激活base环境。随后下载并安装了沐曦专用的PyTorch 2.6版本及其相关组件,配置了必要的环境变量。最后完成了llama factory的安装和环境配置,并通过命令行验证了安装成功。整个过程涉及容器初始化修复、专业版PyTorch安装

#人工智能#nlp#自然语言处理 +1
pytorch 与资源核算

这篇文章深入解析了PyTorch训练大模型时的资源核算方法,主要包括两个核心场景: 时间估算:通过"餐巾纸计算"法快速估算训练时间。文章详细推导了著名的6ND公式(6×参数量×Token数),解释了前向传播2倍和反向传播4倍的计算量来源,并以1024张H100显卡训练70B参数模型为例,估算出约需146天。 内存估算:分析了训练时显存占用的关键组成部分(参数、梯度和优化器状态)

文章图片
#pytorch#语言模型
Agent心智架构:感知一推理一行动循环

这篇文章介绍了一个AI Agent的心智架构实现,核心是一个感知-推理-行动的循环过程。文章提供了详细的Python代码示例,展示如何构建一个具有工具调用能力的Agent系统。代码包含以下关键部分: 环境配置和安全措施:使用dotenv管理环境变量,实现路径安全检查防止恶意访问 工具函数实现:包括bash命令执行工具,包含危险命令检测和超时限制 系统架构:基于OpenAI API构建,采用工具分发

#自然语言处理#nlp
驾驭 Claude 的智能(Harnessing Claude’s intelligence)

Anthropic 的联合创始人之一 Chris Olah,像 Claude 这样的生成式 AI 系统更多是成长而非构建。研究人员设定了引导增长的条件,但具体的结构或能力并不总是可预测的。这给基于 Claude 的开发带来了一个挑战:智能体框架(agent harnesses)中编码了关于 Claude 自身无法完成哪些任务的假设,但随着 Claude 能力不断增强,这些假设会逐渐过时。即使是像本

文章图片
#nlp#自然语言处理#人工智能
赋予智能体技能,让其胜任现实世界任务

本文介绍了如何通过"技能"机制赋予智能体完成现实任务的能力。技能是一个包含SKILL.md文件的目录,采用渐进式披露原则:元数据层让智能体知道何时使用技能,而完整内容仅在需要时加载。技能可以包含指令文档、代码脚本等资源,使智能体既能获取知识又能执行确定性操作。文章以PDF处理为例,展示了技能如何通过上下文窗口触发和工作,并提供了开发技能的最佳实践,包括从评估需求开始、模块化设计

文章图片
#语言模型
驾驭 Claude 的智能(Harnessing Claude’s intelligence)

Anthropic 的联合创始人之一 Chris Olah,像 Claude 这样的生成式 AI 系统更多是成长而非构建。研究人员设定了引导增长的条件,但具体的结构或能力并不总是可预测的。这给基于 Claude 的开发带来了一个挑战:智能体框架(agent harnesses)中编码了关于 Claude 自身无法完成哪些任务的假设,但随着 Claude 能力不断增强,这些假设会逐渐过时。即使是像本

文章图片
#nlp#自然语言处理#人工智能
编排者的时代:从单兵工具到群体智能的认知跃迁

在 AI 演进的图谱中,这是一个关键的范式转移。工具(Tool):被动的。你需要明确指令(Prompt),它返回计算结果。它像一把锤子,需要你挥动。智能体(Agent):主动的。它能主动感知环境变化、自主规划执行路径、并最终拿到结果(Outcome),而非仅仅输出内容(Output)。当 Agent 越来越强,我们与它们的关系不再是主仆,而是共生伙伴。软件工程正在从“逻辑的编写”演变为“意图的编排

#自然语言处理
    共 14 条
  • 1
  • 2
  • 请选择