logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

DJL + ONNX 实战:在Java生态中高效部署AI模型

DJL(Deep Java Library)是亚马逊开源、经数年迭代已成为Java生态独树一帜的深度学习部署框架。本文阐述了其发展脉络与核心主张为“Python训练 + ONNX导出 + DJL部署”,ONNX无缝衔接两端。实测数据显示,DJL+ONNX可显著降低推理延迟。DJL提供原生Java API、引擎无关、支持多线程,让Java团队即刻接入AI。文章给出算法与开发团队的分工策略,并在实战环

文章图片
#java#人工智能#深度学习
AI推理的正确打开方式:为什么大厂都在用“Python训练+ONNX导出+Java部署”?

本文指出行业普遍存在 “AI 训练与推理均依赖 Python” 的误区,淘宝、AWS、招行等大厂已落地 Python 训练 + ONNX 导出 + Java DJL 部署架构,并获工信部白皮书认可。训练层依托 Python 生态快速迭代模型;ONNX 作为通用标准格式,解耦框架与硬件,规避技术绑定;推理层采用 DJL 搭配 ONNX Runtime,相比 Python 方案延迟更低、CPU 利用率

文章图片
#java#python#人工智能
SpringBoot 3.5 集成 InfluxDB 1.8

本文分析了 InfluxDB 1.x 版本广受欢迎的原因,指出其类 SQL 语法 InfluxQL 相比 2.x 引入的 Flux 语法更具易用性。随着 Spring Boot 升级至 3.5 版本,官方移除了对 InfluxDB 1.x 的自动配置支持,导致原有集成方式失效。为解决兼容性问题,作者参照 Spring Boot 3.3 的实现范式,通过引入 influxdb-java 依赖,手动编

文章图片
#spring boot#时序数据库
Vue3 集成 ApexCharts 避坑指南:从动画失效到自定义指令的完美解决方案

本文记录了从ECharts迁移到ApexCharts过程中遇到的典型问题及解决方案。作者发现异步数据加载会导致图表动画丢失、图例异常等问题,根源在于series初始化时机不当。通过将series设为计算属性并初始化为空数组,确保数据变化时触发完整重绘。此外,针对ApexCharts存在的内存泄漏问题,作者开发了v-apex-theme自定义指令,自动处理主题切换、动画保活和内存清理,实现了优雅的图

文章图片
#echarts
大模型工具Ollama安装教程

近两年来,随着大型语言模型(LLM)的迅猛崛起,吸引了各行各业的广泛关注,并对我们的日常生活与工作模式带来了显著的积极影响。特别是在春节期间,DeepSeek的火爆表现更是将国产大型语言模型的发展推向了一个崭新的高度,令世界为之震撼与振奋。Ollama 作为一种开源的基于容器的,它提供了一个统一的平台,用于下载、安装和运行各种AI大模型,为开发者提供了极大的便捷开发环境。本教程带领大家零基础搭建O

文章图片
#人工智能
AI代码平台终极二选一:扣子编程 vs 秒哒,技术选型避坑指南

扣子编程和秒哒是两款AI代码生成工具,但理念迥异。扣子编程提供可编辑的代码项目,适合开发者手动调整,自由度高但需一定技术基础;秒哒则直接生成完整应用,零门槛但无法手动修改,细节调整依赖反复对话。核心差异在于“控制权”与“省心”:前者适合需精细打磨的复杂项目,后者适合快速验证简单需求。最佳策略可能是先用秒哒搭建MVP,再通过扣子编程优化。选择取决于用户的技术能力与项目需求,关键结论是“工具无优劣,场

文章图片
#人工智能
别被Supabase冲昏头脑:它很牛,但不是什么场景都能用

Supabase作为开源的BaaS平台,通过集成PostgreSQL数据库、自动生成API、用户认证等功能,显著提升了全栈开发效率,尤其适合快速原型验证、小型应用开发和AI生成项目。但其局限性在于无法支撑高并发、复杂事务及强定制化需求。决策时需评估用户规模、业务复杂度及长期运维需求。理性看待技术工具,选择与项目阶段匹配的解决方案,才是开发者应有的态度——Supabase是独立开发者的利器,而非企业

文章图片
#数据库
零基础保姆级本地化部署文心大模型4.5开源系列

本教程文心大模型开源系列部署,基于如下软硬件环境,请大家参考,尽量保持一致哈。[可选]12.69.103.10注:请务必确认自己的NVIDIA GPU是否支持CUDA12.6文心大模型本地化部署呈现出显著优势:其响应速度令人印象深刻,相较此前部署的DeepSeek模型实现性能跃升。依托百度官方推出的FastDeploy大模型部署工具,企业可快速实现大模型工业化落地,部署流程兼具高效性与稳定性,为A

文章图片
#人工智能#语言模型
文心大模型正式开源,开启AI普惠新时代

文心大模型正式开源!这一里程碑事件标志着中国自主研发的AI技术底座向全球开发者敞开怀抱,以“开源共享、协同创新”的姿态,推动人工智能技术普惠化进程,为千行百业的智能化升级注入澎湃动力。无论你是初创团队、科研机构,还是传统企业,文心大模型的开源都为你打开了一扇通往未来的大门。:前1000名注册开发者可免费领取算力资源包,并参与线上技术沙龙,与百度工程师面对面交流!文心大模型的开源,不仅是技术开放的里

文章图片
#人工智能
大模型工具Ollama安装教程

近两年来,随着大型语言模型(LLM)的迅猛崛起,吸引了各行各业的广泛关注,并对我们的日常生活与工作模式带来了显著的积极影响。特别是在春节期间,DeepSeek的火爆表现更是将国产大型语言模型的发展推向了一个崭新的高度,令世界为之震撼与振奋。Ollama 作为一种开源的基于容器的,它提供了一个统一的平台,用于下载、安装和运行各种AI大模型,为开发者提供了极大的便捷开发环境。本教程带领大家零基础搭建O

文章图片
#人工智能
    共 11 条
  • 1
  • 2
  • 请选择