logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

vLLM 大模型部署

本文介绍了Qwen2.5-0.5B-Instruct模型的部署与调用方法。首先通过HuggingFace或ModelScope平台下载模型,然后使用vllmserve命令启动推理服务,详细解析了包括模型路径、服务端口、并行度、上下文长度等核心参数配置。最后说明可通过HTTP端口8000进行API调用,建议先用curl或Postman测试连通性。

大模型客户端工具如Cherry Studio,Cursor 配置mcp服务,容易踩的坑,总结

MCP服务配置使用指南:建议提前通过uv(Python)或npm(Node.js)安装所需依赖包,避免直接复制JSON配置导致连接失败。不同操作系统(Linux/Mac/Windows)的JSON命令存在差异,应优先选用提供多平台配置的MCP服务。接入方式推荐简单的SSE(仅需API key),若使用stdio需特别注意依赖安装。此外,需注意部分大模型不支持MCP服务。

MCP服务 SSE / Streamable HTTP 这两种数据传输机制,怎么用 http 请求查询这个MCP服务支持哪些工具调用, 和怎么调用其中一个工具

传递给该工具的输入参数,这里传入了 {"city": "北京"}。: "maps_weather":指明要调用的具体工具名称。:本次请求的唯一标识符,用于匹配服务器返回的响应结果。:声明遵循 JSON-RPC 2.0 协议版本。目的,主要是好奇,想了解MCP服务 底层的原理。:指定要执行的方法为“调用工具”。JSON-RPC 2.0 协议。

#http#网络协议#网络
MCP服务 SSE / Streamable HTTP 这两种数据传输机制,怎么用 http 请求查询这个MCP服务支持哪些工具调用, 和怎么调用其中一个工具

传递给该工具的输入参数,这里传入了 {"city": "北京"}。: "maps_weather":指明要调用的具体工具名称。:本次请求的唯一标识符,用于匹配服务器返回的响应结果。:声明遵循 JSON-RPC 2.0 协议版本。目的,主要是好奇,想了解MCP服务 底层的原理。:指定要执行的方法为“调用工具”。JSON-RPC 2.0 协议。

#http#网络协议#网络
vLLM 大模型部署

本文介绍了Qwen2.5-0.5B-Instruct模型的部署与调用方法。首先通过HuggingFace或ModelScope平台下载模型,然后使用vllmserve命令启动推理服务,详细解析了包括模型路径、服务端口、并行度、上下文长度等核心参数配置。最后说明可通过HTTP端口8000进行API调用,建议先用curl或Postman测试连通性。

jenkins持续集成入门19 - (Pipeline Script from SCM)流水线项目 整合SonarQube代码审查

工作流程图1 jenkins安装SonarQube Scanner插件2 jenkins添加SonarQube凭证3 Manage Jenkins->Configure System->SonarQube servers4Manage Jenkins->Global Tool Configuration5SonaQube-web界面中关闭审查结果上传到SCM功能6项目根目录下,创

#jenkins#ci/cd
jenkins持续集成入门15 - 构建项目方式--轮询SCM

轮询SCM:远程代码分支上(Svn/Git)只要有任何更新,则在一定的时间表达式范围内,执行构建任务。注意:这次构建触发器,Jenkins会定时扫描本地整个项目的代码,增大系统的开销,不建议使用。新建或修改项目,配置如下,时间表达式有很多,自行查阅...

#jenkins#ci/cd
jenkins持续集成入门3 - 从gitlab中拉取代码(SSH的git地址),凭证类型用 SSH Username with private key的方式

1 jenkins下载插件Credentials Binding,就是凭证管理的插件2 用 ssh-keygen -t rsa -C "gitlab的用户名或邮箱",生成密钥3 在gitlab中添加 生成的公钥4 jenkins中添加一个ssh的凭证,这里写的是私钥,注意用户名和 生成密钥的命令一致5创建项目,类型为自由风格的,核心配置如下6 点击 立即构建,开始构建项目,在控制台也可以看日志的打

#git#jenkins#ssh +1
jenkins持续集成入门2 - 从gitlab中拉取代码(http的git地址),凭证类型用 Username with password的方式

1 jenkins下载插件Credentials Binding,就是凭证管理的插件2 添加一个用户名,密码方式的凭证,也可以在添加项目的时候,顺带创建,这里写的是gitlab的用户和密码3 创建项目,类型为自由风格的,核心配置如下4 点击 立即构建,开始构建项目,在控制台也可以看日志的打印输出5 最后生成的项目的目录地址为/var/lib/jenkins/workspace/(项目名)...

#jenkins#gitlab#ci/cd
pyspark报错解决 “py4j.protocol.Py4JError: org.apache.spark.api.python.PythonUtils.isEncryptionEnabled“

报错py4j.protocol.Py4JError: org.apache.spark.api.python.PythonUtils.isEncryptionEnabled does not exist in the JVM解决办法,添加如下前两行代码,放在操作spark之前#添加此代码import findsparkfindspark.init()#添加此代码from pyspark impor

#spark#python#大数据
    共 53 条
  • 1
  • 2
  • 3
  • 6
  • 请选择