logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

Qwen3.5-4B模型部署

本文介绍了在NVIDIA T4 GPU环境下使用vLLM部署Qwen3.5-4B大语言模型的完整流程。主要包括:1)准备CUDA 12.2环境;2)从ModelScope选择Qwen3.5-4B模型;3)拉取vLLM容器镜像;4)下载模型文件到本地目录;5)通过docker-compose配置双GPU并行推理服务;6)测试API接口调用。整个过程详细展示了模型下载、容器部署和推理服务的配置方法,最

文章图片
#阿里云
Qwen3.5-9B模型部署

本文介绍了在NVIDIA T4 GPU环境下使用vLLM容器部署Qwen3.5-9B大语言模型的过程。首先通过ModelScope获取模型,然后下载vLLM镜像并利用docker命令下载模型文件。接着通过docker-compose配置文件启动服务,指定双GPU并行计算、半精度推理等参数,关闭了模型推理功能以满足业务需求。最后提供了模型测试方法,展示了完整的部署流程。整个过程涉及GPU资源配置、容

文章图片
#语言模型
Qwen2.5-Coder-32B-Instruct-AWQ模型部署

本文介绍了在NVIDIA T4 GPU环境下使用vLLM部署Qwen2.5-Coder-32B-Instruct-AWQ大模型的过程。主要内容包括:1)通过阿里魔搭社区下载模型;2)使用vLLM Docker镜像加载模型,配置了双GPU并行、16K上下文长度等参数;3)成功启动服务后,通过curl命令测试模型API接口,验证模型能正常返回对话响应。整个过程涵盖了从环境准备到服务部署的完整流程,适用

文章图片
#语言模型
opencode最新版本安装使用

本文介绍了在Windows系统下安装OpenCode AI工具并接入国内模型的完整流程。首先通过命令行安装OpenCode,手动配置环境变量后验证安装成功。接着展示VSCode集成OpenCode插件的方法,以及使用CC-Switch工具配置商汤等国内模型的详细步骤(包括API Key获取、模型选择及连接测试)。最终实现通过命令行或VSCode调用自定义国内AI模型的功能。全文包含具体操作截图和关

文章图片
huggingface下载模型

本文介绍如何从Hugging Face下载大语言模型的完整步骤:1)注册官网账号并创建Access Token;2)安装并升级huggingface_hub库;3)通过hf auth login命令登录(可选);4)设置国内镜像加速;5)使用hf download命令下载指定模型到本地目录;6)验证下载结果。教程包含详细命令行操作和截图说明,适用于需要获取开源大模型的研究开发者,最后附有参考文档链

文章图片
Diffie-Hellman Key Agreement Protocol 资源管理错误漏洞(CVE-2002-20001)

摘要:Diffie-Hellman密钥协商协议存在安全漏洞,攻击者可发送任意数字触发服务器模幂计算攻击。修复方案是通过修改sshd_config禁用所有DH算法,仅保留更安全的椭圆曲线算法(如curve25519-sha256等)。具体步骤包括:1)备份配置文件;2)设置KexAlgorithms仅包含椭圆曲线算法;3)测试并重启SSH服务。该方案可彻底消除DH漏洞风险,同时保持SSH连接的安全性

k8s漏洞修复1(kubelet 10250)

k8s kubelet 10250 弱密码算法漏洞修复

#kubernetes#kubelet#云原生 +1
k8s漏洞修复2(apiserver 6443)

k8s apiserver 6443 弱密码算法漏洞修复

#kubernetes#容器#云原生
k8s证书续期

本文介绍了 Kubernetes 集群证书过期的解决方案。当出现证书过期错误时,可通过 kubeadm certs check-expiration 检查证书状态,使用 kubeadm certs renew all 一键续期所有证书。随后需更新管理员配置文件并重启控制面板组件:移动静态 Pod 配置使旧容器销毁,20秒后恢复配置以加载新证书。最后验证节点状态和证书有效期(364天),确认续期完成

#kubernetes#容器#云原生 +2
    共 58 条
  • 1
  • 2
  • 3
  • 6
  • 请选择