logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

零基础认识大语言模型(LLM)工作原理(10.Tool Calling:让 AI 第一次拥有行动能力)

在前面的章节中,我们了解到大语言模型(LLM)本质上是一个“文本生成器”——它根据输入的提示,预测下一个最合理的词语。其核心思想是:在LLM的输入中,提供一组预先定义好的工具(如函数、API接口),LLM在生成回答时,可以自主决定是否需要调用某个工具,并生成相应的参数。通过将外部工具以结构化的方式暴露给LLM,我们赋予了它“行动能力”——它不再只是被动地生成文本,而是可以主动决策、调用工具、获取反

#人工智能#语言模型#java
从 SwiGLU 到 MoE —— FFN 才是大模型真正的算力核心

零基础认识大语言模型(LLM)工作原理(5.Transformer的FFN模块到底是什么?x → Linear(升维) → GELU(激活函数) → Linear(降维) → y。MoE(Mixture of Experts)为什么是 FFN 的终极形态?FFN 不再只是“变换层”,而是“特征选择 + 特征重组系统”Attention 是“通信系统”,FFN 是“计算系统”。6.6 MoE(混合专

#人工智能
目前统计到的节点上微服务的线程总数可达到5000以上。

NIO线程数到达1000(达到设置的最大值)、thread线程2000多(用的Async没有用线程池设置)、Hystrix线程3000多、数据库连接100多、少量redis和mq的线程。因为没有用线程池导致thread线程会不停的进行创建,这里需要改成线程池配置,另外涉及到@Async的使用方式不规范问题。Hystrix线程没有进行配置,或配置没有生效,导致线程也是不停的进行创建,也同时涉及到Hy

#微服务#架构#云原生
深度学习框架PyTorch笔记(四)数据转换 Data Transformation

# 数据转换的基本概念在 PyTorch 中,数据转换(Transformation)本质上是一个可调用对象,它接收一个输入数据(如 PIL 图像、Tensor 或 NumPy 数组),并返回转换后的输出。在后续的工程实践中,建议根据具体任务需求灵活组合不同的变换,并通过可视化验证转换后的数据是否符合预期。- 测试集只做必要的尺寸调整和标准化,不做随机增强,以保证评估结果的稳定性。的基本使用方式,

#深度学习#pytorch
从 docker 到 runC

今天,我们就从 Docker 这个“指挥官”出发,深入到它手下的“执行者”——runC。简单说,Docker 像一个“管家”,你告诉它:“我要跑一个 Nginx”,它就会帮你拉镜像、创建容器、跑起来。命令2. Docker 守护进程(dockerd)接收命令3. dockerd 调用 containerd(容器管理守护进程)4. containerd 启动 runC 实例5. runC 根据 OC

#docker#eureka#容器
【GUI-Agent】阿里通义MAI-UI 代码阅读(2)--- 实现

视觉解析器把屏幕变成机器可读的结构化数据,任务规划器把人类语言翻译成机器可执行的操作,执行引擎则负责最后的物理交互。这种设计的好处是模块化——你可以单独升级视觉模型(比如换成YOLOv8),或者增强规划器(接入GPT-4进行复杂推理),而其他部分不用改动。未来,随着多模态大模型的发展,这类GUI-Agent可能会直接跳过视觉解析环节,由模型端到端生成操作坐标,实现真正的“看-想-做”一体化。上一期

#ui
AI Agent Teams 配置与实战指南

为什么需要 Agent Teams?你有没有过这种经历:本来要加个登录功能,写着写着顺便"优化"了数据库连接池优化完发现原来的认证逻辑被改坏了改回来,又改坏了另一个模块最后回头一看——登录功能还没做完这就是目标漂移和质量失控。Agent Teams 的思路很简单:把一个 AI 拆成多个角色,每个角色有明确的职责边界。Planner 产品经理 → Builder 开发 → Reviewer QAPl

#android
从 SwiGLU 到 MoE —— FFN 才是大模型真正的算力核心

零基础认识大语言模型(LLM)工作原理(5.Transformer的FFN模块到底是什么?x → Linear(升维) → GELU(激活函数) → Linear(降维) → y。MoE(Mixture of Experts)为什么是 FFN 的终极形态?FFN 不再只是“变换层”,而是“特征选择 + 特征重组系统”Attention 是“通信系统”,FFN 是“计算系统”。6.6 MoE(混合专

#人工智能
Progressive Disclosure:让模型按需读取命令面

工具太多时,把所有 schema 一次性塞进上下文,会让模型注意力变差。CLI 的 list 和 -h 可以把这个问题拆开。模型先看一级命令,确定领域;再看二级命令,确定动作;最后只读取目标命令的参数说明和示例。上下文更小,误选工具的概率也会下降。

#人工智能
    共 17 条
  • 1
  • 2
  • 请选择