logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

USO服务器操作系统手动升级GCC 12.2.0版本

2. 运行脚本下载并配置 GCC 编译所需的依赖库。选项会根据系统的 CPU 核心数并行编译,加快编译速度。编译过程可能会消耗较长时间,请耐心等待。1. 从 GNU 官方 FTP 服务器下载 GCC 12.2.0 的源码包,并解压进入源码目录。为了让系统能够找到新安装的 GCC,需要将其可执行文件路径和库文件路径添加到环境变量中。” 命令将编译好的 GCC 安装到之前指定的路径。,启用 C 和 C

文章图片
Ollama设置拉取模型本地保存路径和监听端口

Ollama设置拉取模型本地保存路径和监听端口。

文章图片
Ollama设置拉取模型本地保存路径和监听端口

Ollama设置拉取模型本地保存路径和监听端口。

文章图片
基于 nvitop+Prometheus+Grafana 的物理资源与 VLLM 引擎服务监控方案

本方案旨在通过整合nvitop、Prometheus和Grafana三大组件,构建一套完整的监控体系,实现对GPU状态和VLLM服务性能的实时监控与可视化展示。方案的核心优势在于全链路监控、高可扩展性和强大的可视化能力。通过nvitop实时监控GPU指标,Prometheus进行数据采集与存储,Grafana提供数据可视化与告警功能,能够有效提升系统运维效率,确保资源合理分配和系统稳定性。此外,方

文章图片
#prometheus#grafana
2025 年TTS 语音模型推荐:全面解析与对比

在数字化时代,TTS(文本转语音)技术广泛应用于智能客服、有声阅读、教育培训和远程工作等领域。本文介绍了几款备受关注的TTS语音模型,包括实时直播数字人助手DH_live、快速本地化AI语音聊天软件voicechat2、加速语音转录的WhisperMedusa、端到端语音交互模型GLM-4-VOICE,以及其他如Spark-TTS、Kokoro、FishSpeechv1.5、xtts-v2、Sty

文章图片
#语音识别#人工智能
大模型转换为 GGUF

GGUF 格式的全名为(GPT-Generated Unified Format),提到 GGUF 就不得不提到它的前身 GGML(GPT-Generated Model Language)。GGML 是专门为了机器学习设计的张量库,最早可以追溯到 2022/10。其目的是为了有一个单文件共享的格式,并且易于在不同架构的 GPU 和 CPU 上进行推理。但在后续的开发中,遇到了灵活性不足、相容性及

#AI
springboot+chatgpt+chatUI Pro开发智能聊天工具

springboot+chatgpt+chatUI Pro开发智能聊天工具

文章图片
#java#AI
springboot+chatgpt+chatUI Pro开发智能聊天工具

springboot+chatgpt+chatUI Pro开发智能聊天工具

文章图片
#java#AI
大模型转换为 GGUF

GGUF 格式的全名为(GPT-Generated Unified Format),提到 GGUF 就不得不提到它的前身 GGML(GPT-Generated Model Language)。GGML 是专门为了机器学习设计的张量库,最早可以追溯到 2022/10。其目的是为了有一个单文件共享的格式,并且易于在不同架构的 GPU 和 CPU 上进行推理。但在后续的开发中,遇到了灵活性不足、相容性及

#AI
大模型转换为 GGUF

GGUF 格式的全名为(GPT-Generated Unified Format),提到 GGUF 就不得不提到它的前身 GGML(GPT-Generated Model Language)。GGML 是专门为了机器学习设计的张量库,最早可以追溯到 2022/10。其目的是为了有一个单文件共享的格式,并且易于在不同架构的 GPU 和 CPU 上进行推理。但在后续的开发中,遇到了灵活性不足、相容性及

#AI
    共 17 条
  • 1
  • 2
  • 请选择