logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

【AI】Ubuntu 22.04 4060Ti 16G vllm-api部署Qwen3-8B-FP8

【代码】【AI】Ubuntu 22.04 4060Ti 16G vllm-api部署Qwen3-8B-FP8。

文章图片
【AI】关于模型部署方案MindIE Server和vllm

MindIE Server 和 vLLM 都是面向大语言模型(LLM)推理部署的高性能工具,但它们的定位、技术路线和适用场景存在显著差异。使用昇腾 AI 编译器(CANN)生成高度定制化的计算图,实现算子融合和内存零拷贝。支持模型切分部署到边缘设备(如 Atlas 500),适应低带宽环境。自动合并不同长度的请求,提升 GPU 利用率(典型提升 30%+)。内置模型加密和可信执行环境(TEE)支持

#人工智能
【AI】Vibe Coding 深度解析:从概念本质到国内外最优解,以及程序员的未来

Vibe Coding:编程范式革命与开发者未来 Vibe Coding代表着一场编程范式革命,它通过提示词驱动多智能体协作,将开发者的角色从代码编写者转变为系统指挥者。国内最优解是Claude Code+MiniMax M2.7组合,能完成全栈开发;国际方案则采用多模型路由架构。这场变革将淘汰低价值的"代码打字员",催生高价值的"AI编排师"和"

#人工智能
【AI】Windows 10 部署 OpenClaw 龙虾

下载页下载地址验证安装(powershell)

#人工智能
多卡运行分布式训练卡死 nccl_p2p_disable iommu=pt

多卡运行分布式训练卡死 - 知乎

linux qt QProcess pkexec打开root权限/bin/bash,交互式输入指令启动图形界面程序

示例程序#ifndef TERMINALCONSOLE_H#define TERMINALCONSOLE_H#include <QObject>#include <QProcess>class TerminalConsole : public QObject{Q_OBJECTpublic:explicit TerminalConsole(QObject *parent =

#qt#linux#bash
【内网穿透】FRP 跨平台内网穿透 支持windows linux x86_64 arm64 端口范围映射

AI提供的资料:FRP(Fast Reverse Proxy)是一个专为内网穿透设计的高性能反向代理程序。

#linux#运维#服务器
    共 187 条
  • 1
  • 2
  • 3
  • 19
  • 请选择