logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

做端侧 AI 应用,绝不等于强行跑大模型

在构建基于 AI 的摄影辅助小程序时,我们面临了一个非常经典且棘手的端侧 AI 架构矛盾。理想情况下,我们希望通过视觉大模型(VLM)实时分析手机镜头的画面,直接在屏幕上叠加高精度的 AR 构图引导。最大的痛点就在于设备的算力与包体积硬约束:“”(小程序无法在本地运行 Gemini Nano 或 MiniCPM-V 这样的大模型。无论是 2MB/20MB 的包体积限制,还是 JS 沙盒的性能瓶颈,

#人工智能
做端侧 AI 应用,绝不等于强行跑大模型

在构建基于 AI 的摄影辅助小程序时,我们面临了一个非常经典且棘手的端侧 AI 架构矛盾。理想情况下,我们希望通过视觉大模型(VLM)实时分析手机镜头的画面,直接在屏幕上叠加高精度的 AR 构图引导。最大的痛点就在于设备的算力与包体积硬约束:“”(小程序无法在本地运行 Gemini Nano 或 MiniCPM-V 这样的大模型。无论是 2MB/20MB 的包体积限制,还是 JS 沙盒的性能瓶颈,

#人工智能
【开源】2 分钟在 Windows 上搭建 AI Agent 运行环境:MachineY Engine 使用指南

最近在 Windows 上用 OpenClaw 跑 AI Agent,光是搭环境就折腾了大半天。相信不少 Windows 开发者也有同样的痛苦——AI Agent 框架基本都活在 Linux 生态里,Windows 用户永远是二等公民。于是我做了,一个预装 OpenClaw 的 WSL2 发行版,把环境搭建从 30 分钟压缩到 2 分钟。项目已开源。

#开源#windows#人工智能 +1
做端侧 AI 应用,绝不等于强行跑大模型

在构建基于 AI 的摄影辅助小程序时,我们面临了一个非常经典且棘手的端侧 AI 架构矛盾。理想情况下,我们希望通过视觉大模型(VLM)实时分析手机镜头的画面,直接在屏幕上叠加高精度的 AR 构图引导。最大的痛点就在于设备的算力与包体积硬约束:“”(小程序无法在本地运行 Gemini Nano 或 MiniCPM-V 这样的大模型。无论是 2MB/20MB 的包体积限制,还是 JS 沙盒的性能瓶颈,

#人工智能
【开源】2 分钟在 Windows 上搭建 AI Agent 运行环境:MachineY Engine 使用指南

最近在 Windows 上用 OpenClaw 跑 AI Agent,光是搭环境就折腾了大半天。相信不少 Windows 开发者也有同样的痛苦——AI Agent 框架基本都活在 Linux 生态里,Windows 用户永远是二等公民。于是我做了,一个预装 OpenClaw 的 WSL2 发行版,把环境搭建从 30 分钟压缩到 2 分钟。项目已开源。

#开源#windows#人工智能 +1
DeepSeek 如何优化 AI 计算?PTX 代码解析与 AI 计算优化策略

(类似 PyTorch),在运行时调整计算路径,从而减少不必要的计算步骤。然而,目前 AI 计算市场仍然由 OpenAI、Meta、NVIDIA 主导,DeepSeek 是否能真正撼动其地位,还有待观察。随着 2025 年 AI 计算市场的加速发展,DeepSeek-V3 和 DeepSeek-R1 以其。,深入解析 DeepSeek 如何优化 AI 计算性能,以及它是否能改变 AI 计算市场格局

文章图片
#人工智能
到底了