logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

向量数据库到底是什么?从原理、索引到 RAG 实战选型

本文深入解析了向量数据库在RAG(检索增强生成)项目中的核心作用。主要内容包括: 向量数据库本质是专门存储、索引和检索高维向量数据的数据库系统,通过Embedding模型将语义内容映射为向量空间中的点。 与传统关系型数据库相比,向量数据库采用近似最近邻搜索(ANN)算法(如HNSW和IVF)快速处理高维相似度查询,解决了暴力搜索和B-Tree索引不适用的问题。 生产环境中,向量数据库还需支持Met

文章图片
#数据库
LangChain:Model大模型接口

LangChain是一个AI应用开发框架,它通过集成第三方大语言模型(如OpenAI、DeepSeek、阿里Qwen等)提供统一接口。文章介绍了LangChain的核心组件ChatModel及其主要参数,包括temperature、max_tokens等配置选项,并说明了不同模型对参数的支持差异。同时详细讲解了消息组件的类型和属性,包括消息内容(content)和元数据(response_meta

文章图片
#python
终于搞懂了!Token、1M上下文、KV Cache 和大模型记忆的真相

终于搞懂了!Token、1M上下文、KV Cache 和大模型记忆的真相

文章图片
#人工智能
LeetCode 11 盛最多水的容器:从暴力枚举到双指针优化

本文介绍了LeetCode第11题"盛最多水的容器"的解题思路。题目要求在给定柱子高度数组中找到两根柱子,使它们与x轴形成的容器面积最大。作者首先分析了暴力枚举法的时间复杂度为O(n²),并指出其效率不足。随后详细讲解了双指针优化解法:初始化左右指针分别指向数组两端,每次移动较矮的一侧指针,因为移动高柱子不可能增加面积。该方法将时间复杂度优化到O(n)。文章通过示例演示了双指针的运行过程,并强调了

文章图片
#leetcode#算法#职场和发展
# Claude Code 保姆级安装教程:使用 CC-Switch 接入 DeepSeek、Qwen 等国产大模型

摘要 Claude Code是Anthropic推出的命令行AI编程工具,被誉为"终端中的AI工程师",能深度理解项目、执行终端命令并直接修改代码。为解决官方API地域限制和成本问题,推荐使用CC-Switch工具接入国产大模型(DeepSeek、Qwen、GLM等)。安装教程涵盖Node.js环境配置、Claude Code安装、CC-Switch部署及模型接入步骤,特别提供了DeepSeek/

文章图片
#人工智能#python#开发语言
AI Agent 记忆系统设计:长短期记忆如何实现?什么时候存?什么时候查?

大模型agent的记忆系统如何实现,什么时候存,什么时候取?

文章图片
#人工智能#python
DeepSeek 的 Input Cache(输入缓存)是什么?一文讲清原理、作用和使用技巧

文章摘要: DeepSeek 的 Input Cache(输入缓存) 是一种优化大模型推理性能的技术,通过缓存输入 Prompt 的中间计算结果(如 KV Cache),避免重复计算相同前缀的 Token,从而提升响应速度并降低 API 成本。其核心原理是:当多次请求的输入前缀一致时,直接复用已缓存的中间状态,仅计算新增或变化的部分。 关键点: 缓存内容:模型处理输入时的中间计算结果(非最终回答)

文章图片
#缓存#python#人工智能
AI 应用中的高并发处理:从限流、异步到缓存与队列

AI 应用的高并发并没有一个所谓的“万能技术”。先减少不必要的请求↓缓存再限制请求进入速度↓限流再控制下游并发↓再把耗时任务异步化↓再提高单机处理能力↓单机不够↓多实例 + Load Balancer下游不稳定↓模型成为瓶颈↓模型路由 + vLLM / SGLang + Batching所以对于 AI 应用来说,高并发优化最重要的不是记住几十个组件,而是学会找到真正的瓶颈在哪里。QPS高→ 看限流

文章图片
#人工智能#缓存
    共 37 条
  • 1
  • 2
  • 3
  • 4
  • 请选择