logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

大模型API调用

文章摘要:本文系统梳理了大模型API调用全流程,分为8个关键阶段:权限校验、上下文组装、Token预算、模型路由、供应商调用、响应解析、状态回写和观测告警。重点解析了流式处理技术,包括SSE/WebSocket协议选择、异常处理(断流/重连/超时)和结构化输出挑战。针对生产环境,详细讨论了错误重试策略(网络错误可重试、429需谨慎)、多维度限流机制(TPM+RPM+并发控制)和幂等设计必要性。最后

#语言模型
大模型相关基础定义

本文系统介绍了大语言模型(LLM)的核心概念与技术要素。主要内容包括:1)LLM的基本工作原理(自回归生成、Tokenizer处理机制);2)关键参数指标(上下文窗口、Token成本计算);3)生成控制技术(Temperature、Top-k/p采样);4)扩展架构(RAG系统组成及作用);5)性能指标(TTFT、流式输出)及6)常见问题(幻觉现象、上下文溢出)。文中详细阐述了各技术组件的交互关系

#语言模型
大模型结构化输出

Function Calling 是模型侧的工具调用意图生成机制,重点是“自然语言如何变成工具名和参数”。大语言模型在理解用户意图后,不是只生成自然语言回答,而是根据预先定义好的函数/工具说明,判断是否需要调用某个外部函数,并生成符合该函数参数格式的调用请求。输出给人看没问题,程序解析直接失败。服务端先注册工具定义,模型根据用户请求生成工具名和参数,业务侧校验参数并执行真实工具,再把工具结果回填给

#java#前端#服务器
智析AgentData-Analysis-Agent 0→1 架构、搭建与联调实战报告

数据库或其他数据源后,系统把问题转成受控工具调用:读取结构、生成并执行查询、完成统计分析、选择图表、导出。、消息、命令、数据源、预览、流处理、设置、任务、会话、自动保存、更新、检查点、面板等模块。真正决定能否进入生产的,不是再增加多少模型或图表,而是能否把业务口径、数据权限、把长流程拆成进度、思考、工具调用、工具结果、最终回答等事件,前端无需等待整段任务完成。内置模型并不完全一致。记录工具名、耗时

#架构
AI Agent

Agent loop 就是 Agent 完成任务时不断重复的一套流程:先接收用户目标,然后观察当前上下文,思考下一步该做什么,如果需要就调用工具,拿到工具结果后再判断任务是否完成;A2A 协议就是一种让不同 Agent 之间能够互相发现、通信和协作的标准协议:一个 Agent 可以把任务交给另一个更擅长的 Agent,传递上下文、请求能力、接收结果,并继续完成后续流程。任务完成后,Agent 启动

#人工智能
Qwen3-8B 本地 QLoRA 微调项目复盘

本文详细记录了一个基于Qwen3-8B模型的本地微调实验项目。在Windows+RTX3060环境下,作者完成了从基座模型评测、SFT数据构造、LLaMA-Factory安装配置、4-bit QLoRA训练到LoRA推理验证的完整闭环流程。项目重点解决了PowerShell编码、CUDA环境、HuggingFace离线加载等工程问题,通过两轮实验发现:小样本微调并不总能提升模型性能,训练loss下

大模型API调用

文章摘要:本文系统梳理了大模型API调用全流程,分为8个关键阶段:权限校验、上下文组装、Token预算、模型路由、供应商调用、响应解析、状态回写和观测告警。重点解析了流式处理技术,包括SSE/WebSocket协议选择、异常处理(断流/重连/超时)和结构化输出挑战。针对生产环境,详细讨论了错误重试策略(网络错误可重试、429需谨慎)、多维度限流机制(TPM+RPM+并发控制)和幂等设计必要性。最后

#语言模型
MySQL-存储过程

存储过程是数据库内置的一种编程语言,它将SQL语句与过程化编程特性(如变量、条件判断、循环等)结合,实现复杂的数据操作。存储过程存储在数据库中,一次编译永久有效,客户端通过名称调用。其优点在于执行效率高,尤其适合大数据量场景;缺点是移植性差、编写维护困难。文章详细介绍了存储过程的创建、调用、查看和删除方法,并讲解了变量、控制语句(IF、CASE)、循环(WHILE、REPEAT、LOOP)以及游标

#mysql#数据库
MySQL-优化

摘要:本文系统介绍了MySQL数据库优化的四个层面:SQL查询优化(优化语句和索引)、库表结构优化(规范设计和索引调整)、系统配置优化(参数调优)和硬件优化(设备升级)。重点讲解了SQL性能分析工具的使用,包括全局状态查询、慢查询日志、show profiles和explain执行计划分析。详细阐述了索引优化原则(如最左前缀法则、避免索引失效)和其他优化技巧(如order by、group by、

#mysql
Prompt Engineering提示词工程

摘要: 本文系统介绍了Prompt工程的核心要素与优化方法。四要素框架(角色、任务、上下文、格式)构成Prompt设计基础,通过角色扮演、思维链(CoT)、少样本学习等技巧提升生成质量。调试步骤强调单变量修改与回归测试,复杂任务处理建议拆解为链式提示或结构化输出(如JSON/XML)。针对安全风险(Prompt注入、越狱),提出输入清洗、上下文隔离、输出校验的三层防护策略,并推荐提示词路由实现任务

    共 18 条
  • 1
  • 2
  • 请选择