logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

本地微服务调用阿里云百炼平台工作流(AI智能菜单,今天吃什么)以及对应的两种实现方式---不用阿里SAA生态和使用使用阿里SAA生态、使用工作流

要习惯这种开发模式:一部分在本地,通过微服务的代码进行交互另一部分在阿里云百炼平台和AI还有大模型进行整合和调用这也是目前最新的开发流程。

#微服务#阿里云#架构
本地MCP-开发步骤,需要MCP-Client和MCP-Server,以及MCP的优点

MCP是一个CS的架构,所以先从本地端的MCP实现。

RAG (Retrieval-Augmented Generation)检索增强生成,以及大模型微调的用法、以及文档检索(Document Retrieval)

LLM有时会在回答中生成看似合理但实际上是错误的信息,也就是幻觉信息,比如强制让大模型给A0001是什么故障码,大数据会根据它已有的数据进行解释,可能是大模型乱编造的。所以此时就需要RAG进行检索增强生成,做一个内部的检索增强生成的辅助系统,完成AI智能运维,完成预训练数据的投喂。LLM的知识是预训练投喂的数据,可能是前几个月的数据,但是中间这几个月的数据大模型是拿不到的。但是你拿着这个错误码去问

#人工智能
如何将现实世界中的事物(非数值数据)转化为计算机可以理解的“向量”(浮点数数组)----向量的维度是什么概念?

任何事物都可以用一个“向量”(浮点数数组)来表示。这个向量的每个维度代表该事物的一个特征,维度越多,描述越精细。这正是现代 AI(如大模型、推荐系统、搜索引擎)的基础——把一切变成“数字”。图片内容对应你的原话解读交通工具表格“向量的每个维度代表数据的不同特征”每一列是一个特征(维度)汽车向量 (4,1,1,5)“把这个浮点数打到坐标里面”数值化后的向量可视为空间中的点多个维度组合“维度越多对事务

#人工智能
向量化和向量数据库、嵌入式模型的概念

向量化和向量数据库是最关键的技能,如果是AI大模型开发技能的必选必备面试必问笔试必考工作中必用的技能向量、向量文本化、向量数据库这三个概念是最重要的概念传统的关系型数据库MySQL分布式内存数据库Redis还有一个向量数据库,也叫矢量数据库,专门存向量化后的数据这三种数据库在简历上体现才可以脱颖而出。

#数据库
大模型聊天内容持久化开发步骤--解决两个痛点:持久化媒介(RedisChatMemoryRepository),消息对话窗口,聊天记录上限以及顾问(MessageChatMemoryAdvisor)

spring-ai-alibaba-starter-memory-redis是阿里巴巴和Reids整合的依赖。InMemoryChatMemoryRepository是保存在内存中的,是SpringAI的核心框架。RedisChatMemoryRepository是阿里巴巴的,用于保存到Redis中。SpringAIAlibaba实现了SpringAI的ChatMemory。3.要以顾问增强器的方

#bootstrap#前端#javascript
Chat Memory连续对话保存和持久化以及一些基础代码

比如有一个问题,很多人都在问,那么对于这些大模型公司而言,这些数据就是最宝贵的数据金矿,可以了解到当下用户最关心的问题,比如老年人最关心健康,新婚小夫妻最关心去哪里度蜜月,中年夫妻最关心功课辅导,一问一答,这些数据就可以描绘出精准的用户画像,这种功能是大模型开发的标配,后台一定会分析每个用户关心的问题,以及社会热点。理解用户意图和上下文,大模型要知道前面说了什么,后面说了什么,大模型能够从时间跨度

#java#人工智能#spring
格式化输出(Structured Output),就是将一段话经过大模型处理然后返回成一个规定的数据格式

通俗的意思就是:将AI大模型返回的结果转成JSON、XML、Java类等,原本返回值是String(字符串)

#人工智能#spring
Prompt中的Tool Calling

问题回答大模型能提供实时天气吗?❌ 不能,训练数据是静态的.user("天气如何").call()返回什么?🤖 模型“猜”的结果(可能错误)怎么拿到真实天气?✅ 必须通过“工具调用”(Tool Calling)让系统调用真实 API,再把结果交给 AI 生成回复是干嘛的?📦 就是用来把“真实结果”传给 AI 的桥梁。

#人工智能#python#开发语言
如何确认调用的是本地大模型还是云端大模型?

问题回答🔹 我现在是不是在用本地大模型?✅是的!你在用 Ollama 提供的本地大模型服务🔹 模型文件在哪?(Mac/Linux)或C:\Users\用户名\.ollama\models(Windows)🔹 Java 程序直接运行模型了吗?❌ 没有,它是通过 HTTP 调用本地 Ollama 服务🔹 这算不算“本地部署”?✅ 当然算!这是目前最主流的本地大模型使用方式。

    共 16 条
  • 1
  • 2
  • 请选择