logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

关于vllm的模型部署的一些总结

本文对比了OpenAI API、vLLM和Ollama三大AI服务框架的主要特性。OpenAI API是商业云服务,适合企业用户;vLLM是生产级推理引擎,适合技术团队本地部署;Ollama则定位为个人开发者工具,使用最简单。重点介绍了vLLM的关键参数--gpu-memory-utilization的调优策略,建议根据GPU型号、模型大小和使用场景设置0.6-0.9之间的值,以平衡性能和稳定性。

vscode配置c++调试环境

安装vscode插件创建vscode配置文件配置launch.json{// 使用 IntelliSense 了解相关属性。// 悬停以查看现有属性的描述。// 欲了解更多信息,请访问: https://go.microsoft.com/fwlink/?linkid=830387"version": "0.2.0","configurations": [{"name": "(gdb) 启动",

#vscode#c++#ide
git 忽略文件提交的几种姿势

大家都知道 git 忽略文件提交可以通过 .gitignore 中进行配置。但是有时这个配置并不能满足自己的需求。比如 package.json 中我修改了一些配置,但是这些配置只是适合我自己使用,而同事不喜欢用,我就希望我本地的 package.json 不提交到远程仓库。这时通过配置 .gitignore 也是不合理的,那么应该怎么办呢?下面就介绍4中忽略 git 提交的姿势:.gitigno

#git
Docker系列五~docker安装php-fpm

Docker系列四docker安装php-fpm访问PHP镜像库地址: https://hub.docker.com/_/php?tab=tags选择合适的版本php-fpm镜像主要是提供php-fpm服务,需要挂载项目目录到容器里面,就是需要映射项目文件件到容器,以及修改部分配置,可以映射php.ini配置文件也可以不映射,因为修改不多。随意就不做映射了,只映射项目目录即www目录常用版本php

gorm Prepared statement contains too many placeholders 问题

批量导入遇到一个mysql提示。修改成批量导入以后正常。

#服务器#java#javascript
OpenClaw + NotebookLM 构建超级大脑

Google推出的AI笔记助手NotebookLM与OpenClaw工具结合,实现了知识管理的自动化工作流。NotebookLM能基于用户上传的资料进行智能摘要、生成PPT、音频转换等操作,相比通用AI更具针对性。通过OpenClaw可自动将Obsidian笔记上传到NotebookLM处理,生成内容后发送至飞书等平台,全程无需人工干预。这种"Obsidian输入-OpenClaw处理-

#人工智能
OpenClaw + NotebookLM 构建超级大脑

Google推出的AI笔记助手NotebookLM与OpenClaw工具结合,实现了知识管理的自动化工作流。NotebookLM能基于用户上传的资料进行智能摘要、生成PPT、音频转换等操作,相比通用AI更具针对性。通过OpenClaw可自动将Obsidian笔记上传到NotebookLM处理,生成内容后发送至飞书等平台,全程无需人工干预。这种"Obsidian输入-OpenClaw处理-

#人工智能
Claude Skills 是什么,怎么用?

摘要:Skills是由指令、代码和资源打包而成的程序包,用于指导AI处理特定任务。其核心优势包括渐进式披露(分三层加载信息)、可组合复用性以及标准化规范。基本结构包含必选的SKILL.md文件和可选脚本、参考文档等。Skills可通过隐式或显式方式调用,适用于重复性任务场景。官方提供了案例仓库和创建工具,便于开发者学习和构建复杂Skills。

如何写好一个 Skill:从创建到迭代的最佳实践

《Skill设计与开发最佳实践指南》摘要:本文系统阐述了AI技能(Skill)的设计方法论,提出Skill是明确指导AI执行特定任务的指令文档,需包含触发条件(When)、执行步骤(How)和输出标准(What)。核心要点包括:1) 区分Skill与Prompt的本质差异;2) 遵循精准元数据、单一职责、结构化输入输出等设计标准;3) 采用"评测驱动、失败优先"的开发流程;4)

golang利用json.Unmarshal转json为map、slice类型

利用json.Unmarshal转json为map类型package mainimport ("encoding/json""fmt")func main() {var jsonStr = `{"name": "WQ","age": 18,"phone": "15858585858"}`var m = make(map[string]string)if err := json.Unmarshal(

#json#golang#开发语言
    共 41 条
  • 1
  • 2
  • 3
  • 4
  • 5
  • 请选择