logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

MATLAB格式Sonar数据集详解与机器学习实战应用

Sonar(声呐)数据集是机器学习领域中经典的二分类问题数据集,广泛应用于模式识别、信号处理和地质探测等研究方向。该数据集通过模拟水下声呐信号对金属圆柱体和岩石的反射特性,采集了不同频率下的回波强度数据,用于区分“金属”(Mine)与“岩石”(Rock)两类目标。每个样本包含60个数值型特征,代表从0.1到0.9秒之间均匀采样的回波能量值,标签标注为“M”或“R”。数据共208个样本,类别基本平衡

Gemma-3-12b-it多模态大模型效果展示:卫星遥感图地物分类与变化分析

本文介绍了如何在星图GPU平台上自动化部署💎 Gemma-3-12b-it多模态交互工具,实现卫星遥感图像的地物分类与变化分析。该模型能够高效识别城市区域、农业用地等各类地物特征,并精准检测地表变化,为城市规划、生态环境监测等场景提供强大支持。通过星图GPU平台,用户可快速搭建专业级遥感分析环境。

vLLM镜像发布:让开源大模型在生产环境跑得更快

vLLM推理加速镜像通过PagedAttention、连续批处理和量化技术,显著提升大模型在生产环境中的推理效率与显存利用率,支持高并发、低延迟部署,降低硬件成本,助力开源大模型高效落地。

#vLLM
Miniconda镜像+云GPU:低成本启动大模型项目

本文介绍如何利用Miniconda轻量镜像与云GPU实例,以低成本高效搭建大模型训练环境。涵盖环境配置、依赖管理、GPU验证及实际应用场景,帮助个人开发者快速启动LLM项目,实现科研与工程的可复现性。

开源大模型新星:Seed-Coder-8B-Base在代码补全中的应用实践

本文介绍开源大模型Seed-Coder-8B-Base在代码补全中的应用,涵盖模型特点、本地部署、推理优化及IDE集成方案。该模型以轻量级参数支持高效代码生成,适合私有化部署与定制化微调,显著提升开发效率。

火山引擎AI大模型对比:Qwen3-32B表现亮眼

火山引擎推出的Qwen3-32B模型以320亿参数实现接近700亿参数模型的性能,支持128K上下文并在单张A100上部署,具备优异的推理、代码生成与多任务处理能力。通过架构优化、RoPE编码和KV缓存等技术,显著降低企业AI落地成本。

云市场镜像上架:AWS/Azure/GCP官方商店入驻

anything-llm正式上线AWS、Azure和GCP官方云市场,提供预配置镜像,实现一键部署。通过RAG技术提升回答准确性,支持多模型切换与企业级权限控制,帮助企业快速构建安全可控的AI知识系统,解决AI落地中的环境一致性、数据安全与运维复杂性难题。

使用Skopeo操作容器镜像仓库

Skopeo是一款高效的容器镜像管理工具,支持查看镜像信息、在不同Registry间复制镜像等操作。文章详细演示了如何对独立Docker Registry和OpenShift内置Registry进行访问与镜像同步,涵盖认证配置、外部访问设置及服务账户权限管理。

#容器
大模型推理服务备案材料准备:包含TensorRT说明

在大模型推理服务备案中,TensorRT作为高性能推理引擎,通过图优化、精度校准和内核调优显著提升推理效率。实际应用中可大幅降低延迟、提高GPU利用率并减少部署成本,同时需在备案材料中说明选型依据、性能提升、精度保障与运维监控等关键信息。

短视频内容生成:用TensorRT加速多模态大模型

在短视频场景中,多模态大模型推理常面临高延迟与高显存消耗的挑战。通过引入NVIDIA TensorRT,可对模型进行图层融合、FP16/INT8量化、内核调优和动态形状支持等深度优化,显著降低延迟、提升吞吐量。实际案例显示,推理时间从2.3秒降至420毫秒以下,QPS提升近6倍,为高效内容生成提供了可行路径。

    共 705 条
  • 1
  • 2
  • 3
  • 71
  • 请选择