
简介
该用户还未填写简介
擅长的技术栈
可提供的服务
暂无可提供的服务
本文记录了作者尝试在本地和服务器部署Qwen3.5系列模型的经历。首先通过transformers在Windows本地成功运行了0.8B版本,但速度较慢;随后尝试在服务器使用vllm和SGLang部署2B版本均告失败,原因是工具版本不兼容。最终只能回退到transformers方案,发现即使去掉continuous-batching参数后性能仍不理想。作者总结指出,当前阶段只能勉强使用transf
由于各种需要,现在需要统一将一些代码提交搞github,于是有了在VSCode下使用github的需求。之前只是简单的使用git clone,代码提交这些用的是其他源代码工具,于是得学习实操下,并做一记录以备后用。

文章目录系列文章目录前言一、pandas是什么?二、使用步骤1.引入库2.读入数据总结前言最近接触到了NL2SQL,有个相对比较适合自己的开源项目,就说看下。忽然发现自己电脑都没安装个数据库。那就安装一个吧,自从有了docker,能docker安装,那就不直接安装到电脑上了,环境会很乱,而且不如docker方便管理于是,开启了docker部署sqlserver之旅~一、基础概念docker:轻量级

文章目录系列文章目录前言一、pandas是什么?二、使用步骤1.引入库2.读入数据总结前言最近接触到了NL2SQL,有个相对比较适合自己的开源项目,就说看下。忽然发现自己电脑都没安装个数据库。那就安装一个吧,自从有了docker,能docker安装,那就不直接安装到电脑上了,环境会很乱,而且不如docker方便管理于是,开启了docker部署sqlserver之旅~一、基础概念docker:轻量级

大模型应用相关涉及了一系列上下游过程,如算力GPU、模型训练、微调、大模型应用开发等。相关工具使用过程,有一些点就逐步记录下来,以备后续回看。
MCPHub是一款开源的MCP服务聚合平台,能将各类MCP服务(包括stdio、SSE、StreamableHTTP等)统一转换为SSE接口。它支持docker快速部署,提供分组管理、智能路由、日志追踪等功能,解决了MCP服务类型繁杂、安装困难的问题。通过内置的向量库和大模型,还能实现工具的智能匹配调用。该项目已在GitHub开源,为开发者提供了一种简化MCP集成的解决方案,大幅提升了AI应用开发
随着AI大模型的应用越来越广泛,模型应用部署的需求也越来越多,包括huggingface、ModelScope(又叫魔塔)都提供了相关的应用部署服务,这些服务以简单实用的功能,获得了很多用户的欢迎。本文在此就介绍下国内ModelScope创空间的使用。一、ModelScope是什么?ModelScope旨在打造下一代开源的模型即服务共享平台,为泛AI开发者提供灵活、易用、低成本的一站式模型服务产品

摘要: 本文深入探讨了MCP(模型上下文协议)的实际应用,重点解决了如何连接sse格式的MCPServer和使用Python连接多个MCPServer的问题。文章从MCP的基本概念入手,解释了Host、Client、Server三个核心组件的关系,并通过代码示例详细演示了如何创建SSE服务器、连接单个和多个MCPServer。对于多个MCPServer的场景,作者提出了将Client类拆分为Hos

本文介绍了AI编程工具ClaudeCode的安装和使用方法。ClaudeCode基于Anthropic公司的Claude大模型,采用命令行交互方式,具有优异的上下文记忆能力。文章详细说明了通过Node.js安装步骤,并推荐使用AnyRouter平台获取免费API密钥和代理地址。重点讲解了hooks功能的应用,如设置任务完成通知提醒,可显著提升开发效率。该工具为开发者提供了全新的AI编程体验,后续还
就是今天,做了一个功能,在一个弹出页面操作几个表的数据,形成一个临时DataTable,然后将它转换为XML,然后再return到父级页面父级页面,再将XML解析成DataTable再进行相关操作。 恶心随之而来,再讲XML转换为DataTable的时候,总是报错“根级别上的数据无效。 第 1 行,位置 1",但是调试将xmlData参数直接写的时候,不出错!







