logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

别再花钱用API!Ollama手把手教你本地部署开源大模型5分钟在本地跑通开源大模型

📌 Ollama本地大模型部署指南 Ollama是一款开源工具,支持在本地快速部署Llama、Mistral等大模型,无需API Key,适合开发者和普通用户。 🔹 快速安装 macOS/Linux/Windows一键安装,默认端口11434 运行模型仅需 ollama run <模型名>,自动下载所需文件 🔹 常用模型推荐 Llama 3.2(通用对话)、Mistral(编程推

文章图片
大模型落地复盘:架构、工程、业务全维度拆解,聊聊企业LLM落地的真实困境与认知误区

《企业大模型落地困境与突破路径》 本文基于作者两年AI转型经验和半年多企业大模型项目实践,深度剖析了当前企业级大模型落地的真实困境与认知误区。文章揭示了一个行业怪象:演示效果惊艳的模型在生产环境中往往全面失效,许多项目最终沦为内部演示工具。 核心观点包括: 完整的企业级大模型体系需要架构设计、工程落地、模型优化、业务赋能和安全合规五大模块闭环; 四大核心痛点:生产环境失效、成本收益失衡、难以规模化

文章图片
#架构#语言模型#人工智能
别被 Demo 骗了:企业大模型落地的工程化盲区

我先讲个真事。去年一家做城配的物流公司找到我,他们技术团队用开源框架搭了个智能客服 Demo:把运单查询、时效说明喂给大模型,内部演示的时候,老板问「我的货到哪了」,模型对答如流,全场鼓掌。老板当场拍板:下个月上线。结果上线第一周就崩了。

文章图片
#人工智能#语言模型
别被跑分骗了:大模型选型,脱离场景全是空谈

本文探讨了大模型选型的关键问题,强调脱离业务场景谈模型优劣毫无意义。作者将主流大模型分为闭源商用和开源两大阵营分析:闭源模型(如GPT、文心、通义、混元)开箱即用但存在数据合规和生态绑定风险,建议做好接口抽象;开源模型(如Qwen、DeepSeek、GLM、Llama)灵活但需承担部署优化等隐性成本。针对四大典型场景(客服对话、复杂推理、知识问答、工具调用)给出选型建议,指出知识库问答应侧重检索优

文章图片
#人工智能
别盲目上大模型!公有云 / 私有化 / 开源模型场景化选型全指南

大家好,我是冰点,今天我们聊聊大模型落地里最容易吵架的一个决策:到底用公有云 API,还是私有化部署,还是开放权重自建。我参加过好几次这种选型会,场面都差不多:安全部门说数据不能出域,必须私有化;财务说私有化要买卡买机器,预算批不下来;业务说你们别吵了,下个月就要上线。三方说的都有道理,但也都只说了一半。这件事没有标准答案,得把数据、成本、团队和业务时限放在一起取舍。这一节我就把账掰开讲,最后给一

文章图片
#开源#人工智能#语言模型 +1
【Spring AI实战】1.Spring AI 入门必看:诞生背景、核心定位、整体架构一览

插图主题:以 “学习成本、扩展性、生态兼容性、维护保障、开发效率” 为维度,展示 Spring AI 与其他 Java AI 开发方案(如原生 SDK 封装、第三方小众框架)的对比,突出 Spring AI 的综合优势。插图主题:自上而下分层展示 “业务场景层 → 核心能力层 → 生态适配层”,每层标注核心组件 / 功能,用箭头表示层间依赖关系,补充场景组合示例(如 “智能客服” 的组件组合)插图

文章图片
#spring#人工智能#架构
【Spring AI 实战】二、 5 分钟上手 ChatClient,对话模型调用就这么简单

本文介绍了Spring AI中ChatClient的快速入门与实战应用。主要内容包括:1) 环境配置要求(JDK17+、Spring Boot3.2+)和项目创建步骤;2) ChatClient的核心API设计理念(流式API+Builder模式)及四种调用方式(同步、流式、带参数、异步);3) 系统提示词配置和参数控制方法;4) 完整示例展示从配置到Controller的实现过程。文章重点讲解了

文章图片
#spring#人工智能#java
【Spring AI 实战】五、RAG 核心原理:为什么需要检索增强生成?

文章摘要: RAG(检索增强生成)通过检索外部知识库增强大模型回答能力,解决知识陈旧、幻觉和引用问题。其核心流程为“检索-增强-生成”,相比微调具有实时更新、低成本、可解释性强等优势。Spring AI将RAG拆分为文档读取、向量化、检索等模块,支持灵活组合。关键点包括使用统一Embedding模型、优化相似度检索(如余弦相似度),并需应对召回质量、上下文长度和多跳推理等挑战。RAG可作为Agen

文章图片
#spring#人工智能#java
【Spring AI 实战】六、RAG文档 ETL 实战:PDF/Word/Markdown 解析与文本分割

本文介绍了Spring AI框架中文档ETL处理的核心组件与应用实践,重点讲解了PDF、Word、Markdown等常见文档格式的解析方法。主要内容包括: 文档ETL在RAG系统中的关键作用,涵盖抽取、转换、加载全流程 Spring AI统一文档读取接口体系,支持多种文档格式解析 PDF文档处理详解,包括分页读取、元数据提取和内容过滤 Word文档解析技巧,支持表格内容提取和分页处理 Markdo

文章图片
#spring#人工智能#etl
【Spring AI 实战】七、Embedding 向量化与向量数据库选型对比

大家好,我是冰点,今天我们继续聊SpringAI的基本用法和特性建议先阅读第五篇《RAG 核心原理》和第六篇《文档 ETL 实战》,理解 Embedding 在 RAG 中的角色。本文聚焦 Embedding 与向量库的选型思路;具体客户端初始化方式请结合你当前使用的 Spring AI starter 版本确认。

文章图片
#spring#人工智能
    共 45 条
  • 1
  • 2
  • 3
  • 4
  • 5
  • 请选择