logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

我做了一个会聊天、会成长、还能帮忙干活的 AI 桌面宠物

本文介绍了一个结合AI助手与桌面宠物概念的开源项目。作者观察到传统桌面宠物缺乏持久吸引力,而AI助手又过于工具化,因此开发了一个基于Tauri 2+Vue 3+TypeScript+Rust的智能桌面宠物助手。该项目通过养成系统实现从"宠物"到"助手"的渐进式转变,初期表现为需要互动的虚拟宠物,随着成长逐步解锁实用功能(如语音聊天、系统工具调用等)。项目采用

文章图片
#人工智能#宠物
k8s常用命令介绍

本文介绍了Kubernetes中Namespace、Pod、Deployment和Service的核心概念及常用命令。Namespace用于资源隔离,提供创建、查看、删除等操作命令;Pod作为最小部署单元,支持日志查看、容器交互等操作;Deployment管理Pod副本集,支持滚动更新、扩缩容和回滚;Service为Pod提供访问策略,包含ClusterIP、NodePort等类型。每个部分都提供

文章图片
#kubernetes#容器#云原生
ESP32C3-MINI-1开发板踩坑记录

购买低价ESP32C3开发板踩坑实录:收到板子后出现串口识别问题,尝试安装CP2102驱动无效,最终通过安装CH343驱动解决。但随后发现GPIO口无法控制RGB灯,程序调试失败。作者建议新手避免购买非官方开发板,虽然价格便宜但问题频出,反而浪费时间和精力。官方开发板虽然贵但更稳定可靠,适合初学者入门嵌入式开发。

文章图片
#嵌入式硬件
基于LMDeploy部署大模型和量化

LMDeploy 是LLM在英伟达设备上部署的全流程解决方案。包括模型轻量化、推理和服务。核心功能-量化核心功能-推理引擎TurboMind核心功能-推理服务。

文章图片
#云原生
mini-omni demo测试部署

本文介绍了mini-omni项目的安装和启动过程。首先需要创建conda环境并安装依赖项,然后下载模型文件并启动服务端。在服务端启动过程中遇到两个问题:1) Config类初始化参数错误,需修改litgpt/config.py文件;2) state_dict中存在意外键值,需修改inference.py文件。客户端启动时遇到ASGI应用异常。整个流程包括环境配置、服务端部署和客户端连接,但存在一些

文章图片
基于XTuner微调书生·浦语大模型

XTuner 是一个傻瓜式、轻量级的大语言模型微调工具箱,由MMRazor和MMDeploy联合开发。其以配置文件的形式封装了大部分微调场景,0基础的非专业人员也能一键开始微调;对于 7B 参数量的LLM,微调所需的最小显存仅为 8GB。XTuner 支持的开源大模型:InternLM、Llama/Llama2、ChatGLM2/ChatGLM3、Qwen、Baichuan/Baichuan2、Z

文章图片
#云原生
书生·浦语大模型图文对话Demo搭建

本节我们先来搭建几个Demo来感受一下书生浦语大模型。

文章图片
#云原生
基于LMDeploy部署大模型和量化

LMDeploy 是LLM在英伟达设备上部署的全流程解决方案。包括模型轻量化、推理和服务。核心功能-量化核心功能-推理引擎TurboMind核心功能-推理服务。

文章图片
#云原生
书生·浦语大模型图文对话Demo搭建

本节我们先来搭建几个Demo来感受一下书生浦语大模型。

文章图片
#云原生
基于XTuner微调书生·浦语大模型

XTuner 是一个傻瓜式、轻量级的大语言模型微调工具箱,由MMRazor和MMDeploy联合开发。其以配置文件的形式封装了大部分微调场景,0基础的非专业人员也能一键开始微调;对于 7B 参数量的LLM,微调所需的最小显存仅为 8GB。XTuner 支持的开源大模型:InternLM、Llama/Llama2、ChatGLM2/ChatGLM3、Qwen、Baichuan/Baichuan2、Z

文章图片
#云原生
    共 17 条
  • 1
  • 2
  • 请选择