logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

端侧模型上线翻车实录:性能优化做完之后,用户还是不满意

端侧AI模型上线后遭遇三大用户体验问题:1)低端机因流式输出频率过高导致UI卡死,通过requestAnimationFrame节流解决;2)用户误点未加载完成的模型造成白屏,改为加载进度可视化+按钮状态管控;3)用户误将小模型当作ChatGPT使用,通过输入意图判断+预期提示引导。案例揭示技术优化不等于体验优化,需建立端到端思维,文末提供包含6项关键检查点的上线清单,特别强调低端机适配、加载状态

文章图片
#性能优化#人工智能
端侧模型上线翻车实录:性能优化做完之后,用户还是不满意

端侧AI模型上线后遭遇三大用户体验问题:1)低端机因流式输出频率过高导致UI卡死,通过requestAnimationFrame节流解决;2)用户误点未加载完成的模型造成白屏,改为加载进度可视化+按钮状态管控;3)用户误将小模型当作ChatGPT使用,通过输入意图判断+预期提示引导。案例揭示技术优化不等于体验优化,需建立端到端思维,文末提供包含6项关键检查点的上线清单,特别强调低端机适配、加载状态

文章图片
#性能优化#人工智能
MCP Server 从0到1实战:手写一个让AI调用本地数据库的Tool工具

前段时间团队在做内部知识库的AI助手,Agent能联网搜索,能调公开API,但一碰到"帮我查一下上个月订单库的退款率"就哑了。数据在本地SQLite里,Agent够不着。

文章图片
#人工智能#数据库#MCP +1
AI产品翻车实录:模型总结幻觉的三大类型与检测方案

翻车系列写了两篇,回头来看其实是个蛮有意思的过程。输入端翻车告诉你"不是所有论文都能被 AI 读懂",输出端翻车告诉你"读懂了也不代表它能说对"。这两个问题叠在一起,才是 AI 论文阅读工具的真实水平——不是不能用,但得知道它会在什么地方犯错。做 AI 产品就是这样,踩的坑越具体,你对产品的边界理解就越清楚。下次如果再遇到"模型编了一个看起来挺真的引用",至少你知道怎么把它揪出来了。

文章图片
#人工智能#深度学习#机器学习
我的AI产品Prompt迭代了20+版,聊聊坑有多深

第一次深度做Prompt Engineering。以为写prompt就是"把需求说清楚",结果从V1到V3迭代了20多版,踩过的坑比写过的prompt还多。这篇文章不聊产品,不聊创业,只聊一件事:一个论文速读工具的prompt,到底怎么从"能跑"调到"能用"。

文章图片
#人工智能#论文阅读
一个人从0到1做AI产品,我踩过的坑比写过的代码多

16年移动前端,第一次独立做AI产品。从"想做论文摘要"到"做决策过滤器",从画功能全景图到砍到只剩一个核心功能,从纯开发思维到被产品思维反复打脸。这篇文章不推销产品,只复盘过程中的真实决策和踩坑。

文章图片
#人工智能#个人开发#论文阅读
AI产品翻车实录:模型总结幻觉的三大类型与检测方案

翻车系列写了两篇,回头来看其实是个蛮有意思的过程。输入端翻车告诉你"不是所有论文都能被 AI 读懂",输出端翻车告诉你"读懂了也不代表它能说对"。这两个问题叠在一起,才是 AI 论文阅读工具的真实水平——不是不能用,但得知道它会在什么地方犯错。做 AI 产品就是这样,踩的坑越具体,你对产品的边界理解就越清楚。下次如果再遇到"模型编了一个看起来挺真的引用",至少你知道怎么把它揪出来了。

文章图片
#人工智能#深度学习#机器学习
端侧小模型浏览器实测:Qwen2.5、Phi-3、Gemma-2、Llama-3.2到底谁能打?

端侧选模型没有银弹。你以为参数小的就省心,结果速度可以但中文不能看。你以为能力强的就全能,结果内存吃死你。所以我的建议是:别只盯着一款模型上。做一个模型管理层,根据用户设备自动切换。跑不动 Phi-3 就降到 Qwen,Qwen 也跑不动就降级到云端。这才是端侧 AI 的正确姿势。

文章图片
#人工智能
Hybrid AI应用架构设计——WebView+LLM混合开发实践

Hybrid AI架构将Web的灵活迭代与端侧的强劲算力结合,为移动应用赋予了全新的智能形态。通过WebView内运行量化LLM,我们可以实现“离线、快速、私密”的基础AI体验,同时保持和云端、原生推理的无缝衔接。

文章图片
#人工智能
从0到1写AI功能PRD——智能客服需求文档模板

产品经理要是自己搞不清楚模型能干啥不能干啥,就只能被研发牵着走,或者画大饼把团队带坑里。智能客服绝对不是一堆 if else,也不是上个 API 就完事,它需要你像经营一个刚上岗的新员工一样,给他建知识库、告诉他遇到不会的怎么举手、每天复盘他的表现。你把 PRD 当成这个新员工的《工作守则》,一切就清楚了。

文章图片
#人工智能#产品经理#个人开发
    共 27 条
  • 1
  • 2
  • 3
  • 请选择