logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

JetBrains IDEA 2024 无线重置免费 试用

JetBranins IDEA 2024 破解 开源 免费 试用

文章图片
#intellij-idea#java#ide
java字符串数字补齐位数

在Java中实现字符串位数补齐主要有以下几种常用方法,可根据不同场景选择使用:1‌. 左补齐(右侧补空格)‌‌2. 右对齐(左侧补零)‌‌3. 自定义补位字符‌通过替换空格实现其他字符补齐:二、Apache Commons Lang库方法使用StringUtils.leftPad()实现左补齐:三、Java 11+的String.repeat()方法适用于已知需要补足的具体字符数:四、循环遍历实现

文章图片
#java#python#开发语言
windows 安装pnpm

【代码】windows 安装pnpm。

文章图片
#windows
AgentScope Java 2.0 集成 Higress AI 网关:智能体流量治理的生产级实战

Higress AI 网关在 AgentScope Java 生态中扮演着"智能体流量中枢价值维度具体收益统一接入一套 OpenAI 兼容 API 对接所有模型,Agent 代码零改动切换模型精细管控Token 级限流 + 消费者配额,成本可量化、可预测高可用多级 Fallback + API Key 轮转,模型故障秒级切换安全合规统一鉴权、内容安全、审计日志,满足企业合规要求可观测全链路 Tra

文章图片
#人工智能#java#开发语言
AgentScope Java 2.0 深度集成 Nacos:智能体注册发现、技能管理与动态治理全实战

Nacos 在 AgentScope Java 生态中扮演着"智能体控制面价值维度具体收益统一发现Agent 像微服务一样注册、发现、健康检查,跨语言跨框架互通技能治理SKILL.md 集中存储、版本管理、灰度发布、热更新,无需重新部署工具治理MCP Server 统一注册、存量 API 零改造接入动态配置模型参数、Prompt、工具开关实时下发,秒级生效企业级治理命名空间隔离、RBAC 权限、操

文章图片
#java#python#人工智能
开源大模型生产环境部署方案(一)

本文提出了一套开源大模型生产环境部署方案,涵盖从需求分析到运维保障的全流程。方案针对不同业务场景需求(如智能问答、内容生成等)提供模型选型建议,详细说明硬件资源配置和软件环境搭建要求。采用分层分布式架构设计,包括接入层、服务层、存储层和监控运维层,确保系统的高可用性和可扩展性。部署流程包含模型预处理、容器化打包、K8s集群部署等关键步骤,并提供了API接口封装示例。最后提出高可用保障和性能优化措施

文章图片
#开源
开源大模型生产环境部署方案(二) 基于Qwen

本文介绍了Qwen开源大模型在阿里云ModelScope生态下的生产环境部署方案。该方案采用Kubernetes集群和KServe推理服务,支持从Qwen-1.8B到Qwen-Max全系列模型的部署,重点优化了AWQ量化、vLLM推理适配和中文RAG流程。部署架构包含WAF防护、API网关、向量数据库和监控系统,针对Qwen模型的trust_remote_code、MoE支持和中文分词等特性进行了

文章图片
#开源
vLLM(vLLM.ai)K8S生产环境部署Qwen大模型

生产级vLLM推理服务架构摘要 本文详细介绍了基于Kubernetes的生产级vLLM推理服务架构方案。系统采用分层设计,包含WAF/CDN安全层、API网关层和Kubernetes集群内的vLLM推理服务。关键特性包括: GPU资源隔离:专用GPU节点池配合taint/toleration机制 安全架构:Istio实现服务间mTLS,Kong网关提供JWT认证和限流 弹性伸缩:基于KServe和

文章图片
#人工智能#kubernetes
vLLM(vLLM.ai)生产环境部署大模型

vLLM是一款高性能大语言模型推理框架,提供单机API、多机分布式和K8s容器化三种生产部署方案。部署前需确保环境满足CUDA 11.8+/12.1+、Python 3.8~3.11、NVIDIA显卡等要求。核心部署模式包括:1)单机API服务,支持多卡并行;2)多机分布式部署,适用于70B+大模型;3)K8s容器化方案,便于生产环境管理。所有方案均兼容OpenAI API接口,支持量化模型优化显

文章图片
#人工智能
企业内自搭建容器镜像服务-docker镜像服务

本文详细介绍了如何搭建私有Docker镜像仓库,基于Registry 2.x实现安全稳定的镜像管理。主要内容包括:创建持久化存储目录、配置htpasswd用户认证、启动Registry容器及验证方法;客户端配置与使用指南,涵盖镜像推送拉取全流程;生产环境优化建议,如HTTPS配置和镜像清理。该方案适用于内网/生产环境,可替代公共仓库,提供完整的镜像管理解决方案,满足企业级需求。

文章图片
#docker#容器#运维
    共 142 条
  • 1
  • 2
  • 3
  • 15
  • 请选择