logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

使用vs code开发spring项目

当前越来越多的AI开发工具是基于vs code开发的,例如trae和qoder,如果不熟悉vs code的使用,使用这些AI开发工具也很难得心应手。总结一下vs code的优点:很多AI ide工具,都是基于vs code开发;当前几乎所有程序员都是vide coding,都是AI生成代码,ide更多是充当代码查看器;vs code 开源免费vs code 轻量,打开速度快,对电脑的资源需求低vs

#spring#java#后端
使用vs code开发spring项目

当前越来越多的AI开发工具是基于vs code开发的,例如trae和qoder,如果不熟悉vs code的使用,使用这些AI开发工具也很难得心应手。总结一下vs code的优点:很多AI ide工具,都是基于vs code开发;当前几乎所有程序员都是vide coding,都是AI生成代码,ide更多是充当代码查看器;vs code 开源免费vs code 轻量,打开速度快,对电脑的资源需求低vs

#spring#java#后端
结合openai协议,谈谈agent的skill调用过程

本文解析了AI Agent中Skill调用的实现原理与流程。Skill调用本质通过Tools机制实现,框架涉及Agent(维护对话与工具)、LLM(决策与解析)和Skill(结构化指令)。以微信公众号文章摘要为例,展示了完整交互链:用户请求触发Skill描述注入→LLM决策调用工具获取Skill详情→执行工具步骤→LLM生成最终结果。整个过程遵循"思考-行动-观察"的Agent

#人工智能
结合openai协议谈谈tools调用是怎么实现的

一直迷惑agent怎么实现tools的调用,可能我的prompt不对,问千问、豆包,回复都很抽象,感觉自己知道了,好像又不知道。下面以程序员的角度,以实例分析一下tools的调用过程。告之agent,当前交互需要调用工具。如下所示,截取LLM返回的2个chunk。4. agent拼接上下文后(role:tool),再次请求LLM,LLM会返回请求的结果。例如,你定义了一个递归的函数作为tool,然

#microsoft#前端#javascript
推理框架vllm有哪些接口

对大多数开发来说,只要知道/v1/chat/completions就可以了,但对于运维来说,这个是不够的,运维上如果要做模型的高可用部署(即部署多个节点,然后做负载均衡)一般需要health接口,代理层(例如apisix)可以做主动检查,自动将异常节点下掉。同时,运维也要做性能监控,接入promethus。那这些vllm是否支持呢,这就要看vllm有哪些接口了。

到底了