早期的大模型只会聊天，干不了实事。为了让它能调用工具、会推理，人类在提示语和 agent 工程里各种"外挂"。后来大模型自己长出了这些能力，外挂纷纷下岗。这篇文章，我们就来聊聊工具调用和思维链是怎么从"外挂"变成"内置"的

大模型的参数一般都用 BF16 存储。BF16 是一种浮点数格式，那它到底是怎么存数据的？今天，我们就来扒一扒浮点数那些精妙设计——小数点会漂移、前导位能省则省，一路看到 BF16 上位的真相

此量化不是搞钱的量化，是大模型「瘦身」的秘诀。本期聚焦 GPTQ / AWQ / llama.cpp 等主流量化方案的底层基石——对称 INT4 / INT8 量化原理。从 scale 怎么算、到浮点与整数怎么互转，一条公式一条公式推给你看 - 看不懂，算我的 ( ´･ᴗ･ )

想本地跑大模型却显存告急？llama.cpp 的量化优化算法藏着一门精妙的平衡艺术：混合精度加双重量化，又瘦又精。凭啥又轻又能打？咱们来一探究竟！#llama.cpp #大模型量化 #Q4_K_M #Ollama #大模型本地部署 #模型压缩 #混合精度 #量化原理 #INT4量化 #本地大模型 #权重优化 #知识分享 #原理 #人工智能 #深度学习

本故事主要讲述通过 SDK 调用混元大模型的四种方式，每一种方式都各有千秋，适用于不同的场景，你会选择哪一种呢？

腾讯云开发最近上新了个能力，能让微信小程序（当然不止小程序啦～）直接访问 MySQL 云数据库，这给咱们开发者又多了一种直接操作数据库的方式。具体是咋肥事呢？且听下文慢慢道来～