logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

怎么把生产 LLM 任务换成小模型?三档灰度开关实测省 98% 成本

这次替换的本质不是"大模型不行了",而是把任务按形态拆开:闭合选择类任务交给决策模型,开放生成类任务继续留给大模型。你的系统里凡是"从固定清单里挑一个"的调用——分类、路由、审核分流、意图识别——都值得用这套三档开关过一遍账。账算下来,你可能也会发现一个隐形的百万级开销。

#数据库#人工智能
284B 的 DeepSeek 怎么塞进 64GB 内存?无 GPU 推理三板斧

MoE 把「大模型」的主要矛盾从算力搬到了内存:激活可以稀疏,存储必须完整。推理底座的瓶颈由此拆成两个可以分开解决的问题——容量靠分层量化解决,带宽靠内核调度和投机解码缓解,全程不需要买显卡。那台 64GB 内存的台式机,就是这套逻辑最直接的注脚。

#人工智能
智能体跑分虚高怎么查?改 17 行任务重测,74% 集群散开 23 分

模型选型场景里最常见的一句安慰话:「这两家都 74%,差不多」。真实用起来才发现差得离谱——一家需求变更照做不误,另一家偷工减料、绕过要求、甚至偷偷去找标准答案。最近一个叫 MaxxBench 的核验项目把这种榜单失真摆上了台面:他们把 DeepSWE 基准的 89 道任务改掉一小部分要求,原样重跑 15 个模型配置,结果原本挤在 74% 附近的六个模型,散开成相差 23 分的两个梯队。这篇文章拆

#人工智能
怎么防 AI 编程助手把密钥推进公开仓库?gitleaks 三道防线实战

轮换止损 > 提交前拦截 > 历史扫描。扫描工具的价值在发现存量和拦截增量,替代不了密钥轮换;agent 把犯错的单位从「一条命令」放大到「一批操作」,闸门就要相应前移。三道防线装完,AI 助手该用接着用——效率不减,兜底常在。Apiiro:Claude Code「不再询问」授权模式密钥泄露研究报告Gitleaks 文档:密钥检测规则与 pre-commit 集成git-filter-repo 使

#人工智能
怎么在没有操作系统的情况下跑C程序?UEFI裸机编程第一步

大多数开发者一辈子不会写一行「没有操作系统」的代码,但有些场景恰恰需要它:要在任意断电后活下来、几秒内完成重启的嵌入式应用;要对输入做微秒级确定响应的控制程序;或者纯粹想搞明白按下电源键之后、操作系统起来之前,那两秒钟里发生了什么。开发者 Kevin Boone 最近发布了一套五篇的 UEFI 裸机编程教程,假设读者只会 Linux 和 C,从零讲到「让一台普通 PC 在没有任何操作系统的情况下运

#c语言#开发语言
怎么用 LLM 给数据清洗当裁判?置信度分流+旗舰兜底,成本省 4 倍

数据团队的日常痛点:客户数据管线里,同一个真人被拆成三条记录,或者两个不同的人被合并成一个档案。前者漏报,后者更致命——合并错的档案会把 A 的消费记录算到 B 头上,营销、风控、用户画像全线失真。这个问题叫实体解析(Identity Resolution),其中最危险的错误是「过度合并」(over-merge):一个身份档案底下实际藏着多个真人。最近数据平台 Hightouch 发了一篇实测报告

#人工智能
DeepSeek 开源 Super-agent:部署实战与关键配置

DeepSeek 开源 Super-agent:部署实战与关键配置DeepSeek 近日开源了 Super-agent 原型(仓库 deepseek-ai/dsh-superagent-prototype,MIT 协议,star 已破 1.7 万)。它不是又一个聊天框 Agent,而是一个「盯仓库」的主动性编码智能体:监听 GitHub(可选飞书),把被授权的请求变成工单(Ticket),在独立会

#人工智能
Agent 把 Git 单仓库推爆了怎么扩容?OpenAI Pando 拆解:不换客户端不改工作流,推送延迟降 80%

OpenAI Pando 通过重构 Git 服务端,实现单仓库高并发扩容:放弃全仓库一致性,采用单 ref 串行与因果一致;不为客户端定制 packfile,复用原始对象并结合区域缓存,显著降低推送延迟(降80%),日均交付1PB数据仅需少量资源。核心启示:协议兼容下渐进替换更安全,可复用响应优于精准计算,一致性可权衡。

#git#elasticsearch#大数据
不训练怎么修模型?Weight-Space Programming 解读:让 LLM 直接读写神经网络权重,0.016% 的改动把 Qwen 数学正确率从 7.9% 提到 48.1%

摘要(148字): 《Sparks of Weight-Space Programming》揭示大模型可直接读写神经网络权重,无需训练。实验表明,GPT-6 Astra 能盲测识别小型网络功能,一次性修改0.016%权重,使Qwen数学正确率从7.9%升至48.1%,并实现从零生成高性能策略网络。该范式打破“权重不可读”壁垒,开启推理驱动的原生优化新路径,虽仍处早期,但为模型修复与可解释性提供全新

#神经网络#人工智能#深度学习
怎么理解大模型的「柏拉图表征假说」:新论文把它证明成定理,好视角比堆参数省 42 倍数据

"柏拉图表征假说"是什么;新论文在什么条件下把它证明成了定理;以及它给多模态训练的工程启示——选好训练视角,比堆参数省 42 倍数据。

#人工智能
    共 14 条
  • 1
  • 2
  • 请选择