logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

Pangu大模型优化企业培训课程内容自动生成

Pangu大模型通过预训练-微调范式、注意力机制与大规模参数,实现企业培训内容的高效智能生成,支持个性化、结构化与多场景应用,显著提升知识传递效率与一致性。

如何用自然语言精准分割视频物体?SAM3大模型镜像实战解析

本文介绍了基于“星图GPU”平台自动化部署sam3 提示词引导万物分割模型镜像的实践方法。该镜像支持通过自然语言或点/框提示,实现视频中物体的精准分割与跨帧跟踪,适用于智能监控、视频编辑等场景,结合WebUI界面可快速开展AI应用开发与模型微调。

深度学习项目训练环境一文详解:opencv-python预装带来的图像预处理加速

本文介绍了如何在星图GPU平台上自动化部署深度学习项目训练环境镜像,该环境预装了opencv-python等核心库,能显著加速图像预处理流程。用户可快速启动计算机视觉项目,如图像分类模型的训练与微调,将时间专注于模型优化而非环境配置。

#深度学习#计算机视觉#图像处理
通过curl命令快速测试Taotoken大模型API的连通性与响应

通过curl命令快速测试Taotoken大模型API的连通性与响应 在开发或调试过程中,有时我们需要快速验证一个API服务是否可用,或者在没有安装特定语言SDK的环境下进行简单的功能测试。curl作为一个功能强大的命令行工具,是进行这类快速验证的理想选择。本文将详细介绍如何使用curl命令直接请求Taotoken平台的聊天补全接口,帮助你快速完成API连通性测试与基础功能验证。 1. 准备工作:获

基于多元线性回归的房价预测机器学习实战数据集

给定 $ m $ 个样本,每个样本包含 $ n $ 个特征和一个目标值,记第 $ i $ 个样本的真实响应为 $ y_i $,模型预测值为:\hat{y}定义第 $ i $ 个样本的残差为:最小二乘法的目标是最小化所有样本残差的平方和,称为残差平方和(Residual Sum of Squares, RSS):这是一个关于 $ \beta_0, \beta_1, \ldots, \beta_n $

AI智能棋盘感知Banner QS30VS长距离信号

本文解析了如何利用Banner QS30VS激光传感器实现非接触式智能棋盘,通过ToF技术与伺服云台扫描棋局,结合AI进行状态识别与交互,探讨其在教育、医疗等场景的延伸应用。

AI智能棋盘ESP32-S3前端语音识别部署

本文深入解析基于ESP32-S3的AI智能棋盘,如何在低成本MCU上部署离线语音识别系统。通过MFCC特征提取、轻量级KWS模型与本地推理,实现在无网络环境下快速响应语音指令,并结合棋局状态完成动作控制,展现边缘AI在实际产品中的高效应用。

天外客AI翻译机边缘计算节点部署

本文深入解析天外客AI翻译机如何通过边缘计算实现低延迟、离线可用和隐私保护的实时翻译,涵盖ASR、NMT、TTS三大模块的轻量化部署与软硬协同优化,展现本地化AI在终端设备中的工程落地实践。

#边缘计算
vLLM镜像如何支持边缘计算场景下的推理?

本文介绍vLLM推理加速镜像如何通过PagedAttention、连续批处理和量化技术,显著提升边缘设备上大模型的推理效率。显存利用率超85%,吞吐量提升8倍以上,支持INT4量化与OpenAI兼容API,助力智能工厂、车载系统等高并发低延迟场景落地。

#vLLM
大模型API响应延迟高?检查Miniconda中uvicorn版本

大模型API响应延迟高可能并非模型本身问题,而是因Miniconda环境中uvicorn版本过旧或缺少uvloop等关键组件,导致异步性能下降。建议升级至uvicorn>0.27.0,显式安装uvloop和httptools,并在启动时指定高性能参数,以确保低延迟和高吞吐。

    共 928 条
  • 1
  • 2
  • 3
  • 93
  • 请选择