logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

WebGPU DeepSeek项目实战(五):封装聊天消息组件、安全渲染Markdown并完善加载重试

本文完成 WebGPU DeepSeek 项目的消息展示处理层:创建独立聊天组件与角色图标,利用 `answerIndex` 拆分模型思考和最终回答,通过 Marked、DOMPurify、MathJax 安全呈现 Markdown、代码和公式,并加入等待动画与思考折叠。同时分析输入框自适应高度,以及异步模型加载的错误捕获、失败 Promise 清理和重试机制,为最后一篇完整页面结构讲解做好准备。

文章图片
#安全#前端
WebGPU DeepSeek项目实战(四):接通聊天生成、流式输出与中断控制

本文接通 WebGPU DeepSeek 的聊天生成闭环,从 React 消息状态出发,将完整对话发送给 Worker,再使用 Chat Template、TextStreamer 和 `model.generate()` 完成流式推理。文章深入讲解 Token 回调、TPS 统计、思考与回答分界、不可变消息更新和可中断生成,并说明 KV Cache 的保存状态及跨轮复用边界,最后串联从模型加载到

文章图片
#AI
WebGPU DeepSeek项目实战(三):加载LLM、展示下载进度与搭建聊天页面

本文继续完善 WebGPU DeepSeek 的模型加载流程,讲解 `AutoModelForCausalLM`、`q4f16`、WebGPU 推理配置与模型预热,并使用 `progressItems` 展示多文件下载进度。文章重点分析 React 函数式状态更新如何避免闭包旧值和并发更新丢失,最后从整体结构到输入框、条件渲染和操作图标,逐层拆解 `App.tsx` 返回的聊天页面。

文章图片
#前端#javascript#开发语言
Harness 工程详解:用 Best of N Sampling 与 LLM as Judge 构建生成、评测、择优闭环

本文介绍 Harness 如何通过外部编排约束大模型的随机输出,并沿 `index.mjs` 执行链路,拆解客户端初始化、统一调用、Best of N 并行生成、LLM as Judge 评分、排序择优与顶层 `await`。文章进一步分析六次模型请求的串并行关系、延迟成本、评分解析和提示注入风险,明确它与 ReAct Agent 的区别,并给出确定性测试、结构化评审、异常降级、多评委及预算控制等

文章图片
#AI
WebGPU DeepSeek项目实战(一):从Hugging Face模型链路到Web Worker通信框架

本文从 Hugging Face、Transformers.js 与 WebGPU 入手,逐步搭建 webgpu-deepseek 的 React 与 Web Worker 通信框架。文章复现 navigator.gpu 类型报错,对比 as any 和 @webgpu/types 两种解法,并通过 check 命令与 error 状态解释双向消息流。结尾汇总 App.tsx 和 worker.j

文章图片
#前端
WebGPU DeepSeek项目实战(二):用单例模式加载Tokenizer并转发下载进度

本文承接 WebGPU DeepSeek 项目的 Worker 通信框架,从 load 命令进入 Tokenizer 加载流程。文章先介绍单例模式的基本结构,再逐步讲解 TextGenerationPipeline、this.tokenizer ??=、AutoTokenizer.from_pretrained() 和进度回调参数 x,最后串联 Worker 消息转发、React 状态更新与加载界

文章图片
#单例模式#typescript
WebGPU DeepSeek项目实战(二):用单例模式加载Tokenizer并转发下载进度

本文承接 WebGPU DeepSeek 项目的 Worker 通信框架,从 load 命令进入 Tokenizer 加载流程。文章先介绍单例模式的基本结构,再逐步讲解 TextGenerationPipeline、this.tokenizer ??=、AutoTokenizer.from_pretrained() 和进度回调参数 x,最后串联 Worker 消息转发、React 状态更新与加载界

文章图片
#单例模式#typescript
WebGPU DeepSeek项目实战(一):从Hugging Face模型链路到Web Worker通信框架

本文从 Hugging Face、Transformers.js 与 WebGPU 入手,逐步搭建 webgpu-deepseek 的 React 与 Web Worker 通信框架。文章复现 navigator.gpu 类型报错,对比 as any 和 @webgpu/types 两种解法,并通过 check 命令与 error 状态解释双向消息流。结尾汇总 App.tsx 和 worker.j

文章图片
#前端
模型的地基:大模型时代的“数据艺术”与数据集切分工程实践

本文深入探讨了大模型智能的底层基石——预训练数据工程。文章打破“算法与算力决定一切”的固有认知,详细剖析了训练集、验证集与测试集在对抗过拟合、培养模型“泛化能力”中的核心设计思想。同时,本文揭秘了现代 LLM 动态数据管理通路与 K 折交叉验证等进阶技术。最后,结合阿里魔搭社区(ModelScope)与 Hugging Face 工具链,手把手带读者利用中文餐饮评论数据集完成了一次工业级的 8:1

文章图片
#人工智能
解耦大模型与工具的桥梁:深入浅出 MCP 协议及其服务端实现

本文深入浅出地拆解了大模型上下文协议(MCP)的核心原理,剖析其如何通过 stdio 与 http 机制解决大模型与外部工具耦合、跨语言调用的痛点。文章面向零基础开发者,以“结构梳理+分段剖析”的模式详解了基于 Node.js 实现的本地 MCP 服务端源码与客户端配置,并厘清了 JavaScript 语言与 Node.js 环境的纽带关系,助力全栈与 AI Agent 工具链的敏捷开发。

文章图片
#MCP
    共 79 条
  • 1
  • 2
  • 3
  • 8
  • 请选择