
简介
该用户还未填写简介
擅长的技术栈
可提供的服务
暂无可提供的服务
本文介绍了一个结合AI助手与桌面宠物概念的开源项目。作者观察到传统桌面宠物缺乏持久吸引力,而AI助手又过于工具化,因此开发了一个基于Tauri 2+Vue 3+TypeScript+Rust的智能桌面宠物助手。该项目通过养成系统实现从"宠物"到"助手"的渐进式转变,初期表现为需要互动的虚拟宠物,随着成长逐步解锁实用功能(如语音聊天、系统工具调用等)。项目采用

本文介绍了Kubernetes中Namespace、Pod、Deployment和Service的核心概念及常用命令。Namespace用于资源隔离,提供创建、查看、删除等操作命令;Pod作为最小部署单元,支持日志查看、容器交互等操作;Deployment管理Pod副本集,支持滚动更新、扩缩容和回滚;Service为Pod提供访问策略,包含ClusterIP、NodePort等类型。每个部分都提供

购买低价ESP32C3开发板踩坑实录:收到板子后出现串口识别问题,尝试安装CP2102驱动无效,最终通过安装CH343驱动解决。但随后发现GPIO口无法控制RGB灯,程序调试失败。作者建议新手避免购买非官方开发板,虽然价格便宜但问题频出,反而浪费时间和精力。官方开发板虽然贵但更稳定可靠,适合初学者入门嵌入式开发。

LMDeploy 是LLM在英伟达设备上部署的全流程解决方案。包括模型轻量化、推理和服务。核心功能-量化核心功能-推理引擎TurboMind核心功能-推理服务。

本文介绍了mini-omni项目的安装和启动过程。首先需要创建conda环境并安装依赖项,然后下载模型文件并启动服务端。在服务端启动过程中遇到两个问题:1) Config类初始化参数错误,需修改litgpt/config.py文件;2) state_dict中存在意外键值,需修改inference.py文件。客户端启动时遇到ASGI应用异常。整个流程包括环境配置、服务端部署和客户端连接,但存在一些

XTuner 是一个傻瓜式、轻量级的大语言模型微调工具箱,由MMRazor和MMDeploy联合开发。其以配置文件的形式封装了大部分微调场景,0基础的非专业人员也能一键开始微调;对于 7B 参数量的LLM,微调所需的最小显存仅为 8GB。XTuner 支持的开源大模型:InternLM、Llama/Llama2、ChatGLM2/ChatGLM3、Qwen、Baichuan/Baichuan2、Z

本节我们先来搭建几个Demo来感受一下书生浦语大模型。

LMDeploy 是LLM在英伟达设备上部署的全流程解决方案。包括模型轻量化、推理和服务。核心功能-量化核心功能-推理引擎TurboMind核心功能-推理服务。

本节我们先来搭建几个Demo来感受一下书生浦语大模型。

XTuner 是一个傻瓜式、轻量级的大语言模型微调工具箱,由MMRazor和MMDeploy联合开发。其以配置文件的形式封装了大部分微调场景,0基础的非专业人员也能一键开始微调;对于 7B 参数量的LLM,微调所需的最小显存仅为 8GB。XTuner 支持的开源大模型:InternLM、Llama/Llama2、ChatGLM2/ChatGLM3、Qwen、Baichuan/Baichuan2、Z








