logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

语义模型 - 从 Transformer 到 Qwen

本文介绍了基于Transformer架构的现代语义模型,包括Encoder-Only和Decoder-Only两种主要类型。重点解析了BERT双向编码器的优势,以及GPT系列等生成式模型的特点,并对Qwen3等新兴模型进行了说明。同时概括了模型文件的不同保存格式和典型结构,如.safetensors和.ckpt等。最后讨论了激活函数的作用和Tokenizer分词算法,包括BPE、WordPiece

#transformer#深度学习#人工智能
Vllm Semantic-router MoM 架构

路由路由routing)是任何网络中选取路径的程序,在此"程序"是指一组在电脑中执行的程序。一般由 Gateway 担任路由角色,将流量通过一些特征路由到指定的后端服务。在大模型中,将自然语言任务交给更适合的“模型”来完成便是大模型路由。

文章图片
#架构
Prompt 工程--“骗出” System Prompt

在和大模型交互的过程中,总是一问一答的形式。和人交流类型,不过模型“人”可能并不聪明。随着大模型的爆火,怎么向 AI 表达清楚你的观点,让他能理解你的意思,也逐渐演变成了一门艺术,类比成”编程语言“,只不过 SDK 是大模型。PUA 模型,让其将你当成一个 ”AI 微调训练员“ 或其他角色,以暴露 System Prompt,Github 上有许多模型 Prompt 和相关资料,解释怎么使用 Pr

什么是 Agent Skills 和 MCP,Tool Calling 什么关系 & 上手体验

至于 MCP 和 Skills 的关系,目前不太好判断,我认为两者是互补关系。

MCP 介绍和基本使用

MCP(Model Context Protocol:模型上下文协议) 是一种开放协议,制定了应用程序向 LLM 提供上下文的标准。可以将 MCP 视为 AI 应用程序的 USB-C 端口。正如 USB-C 提供了一种将设备连接到各种外围设备和配件的标准化方式一样,MCP 提供了一种将 AI 模型连接到不同数据源和工具的标准化方式。在本文中,介绍了什么是 MCP 以及 MCP 的作用和解决的问题。

文章图片
#spring#java
使用 Spring AI Aliabab Module RAG 构建 Web Search 应用

Spring AI 实现了模块化 RAG 架构,架构的灵感来自于论文“”中详述的模块化概念。

文章图片
#spring#人工智能#前端
AI Gateway 介绍

摘要 AI网关作为API网关的进化版本,专为处理大规模AI服务流量而设计。传统API网关主要解决跨域访问、性能优化和安全防护等问题,而AI网关在此基础上新增了多项AI专属能力:包括LLM感知的流量调度(使用Prefix Cache和VTC算法)、Token限流管理、自动故障转移、内容安全审核及MCP协议转换等。以Higress和Envoy为例,AI网关采用控制面与数据面分离架构,通过插件机制扩展功

文章图片
#人工智能#gateway
Deepseek reasoning-content 透出调研

顾名思义,大模型的推理过程。

文章图片
#java#人工智能#spring
Spring AI Alibaba Graph 实践

摘要 本文介绍AI智能体编排框架及Spring AI Alibaba Graph的使用。首先将Agent分为两类:Workflows系统(人工干预决策)和智能体系统(LLMs自主决策)。随后对比主流框架如Microsoft AutoGen、LangGraph和CrewAI,重点解析Spring AI Alibaba Graph——一款基于图结构的Java多智能体框架,包含状态图、节点、边和全局状态

#spring#人工智能#java
MongodB数据库安装教程

MongodB数据库安装教程1 官网下载msi安装文件官网地址:[传送门](MongoDB Community Download | MongoDB)阿里云盘:「mongodb-windows-x86_64-5.0.5-signed.msi」https://www.aliyundrive.com/s/kDPg5WCCz5o 点击链接保存,或者复制本段内容,打开「阿里云盘」APP ,无需下载极速在线

#mongodb#数据库#database
    共 23 条
  • 1
  • 2
  • 3
  • 请选择