logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

搞懂DeepSeek量化家族:每个版本都在玩什么花样?

DeepSeek 模型的量化版本很多,如果只看名称,很容易看得眼花缭乱。这里先给大家一张简单对照表,帮助入门理解。量化类型位数显存占用(7B模型)速度(tokens/s)典型特征Q22 位整数约 3.2GB4 - 6极端压缩比例,对精度有明显影响Q4_04 位整数4GB6 - 8基础 4 位量化,普适性较高Q4_K_M4 位整数4.5GB8 - 10在块量化基础上做优化,精度更稳定Q5_K_M5

文章图片
#人工智能
一次性搞定:用 vLLM 容器部署 Qwen2.5-VL 并无缝接入本地 Chatbox

在本地部署一个多模态的大模型并不一定需要天花乱坠的 DevOps 大工程,也不需要写上一堆 Python 代码来启动后端 API。有了容器和vLLM,以及类似Chatbox这样的可视化界面,一条命令就能搞定服务,全程无痛。也希望这样的方法能帮到更多需要低门槛部署大模型、或希望私有化守护数据安全的团队,一起把技术创新落到实处。

文章图片
#人工智能
搞懂DeepSeek量化家族:每个版本都在玩什么花样?

DeepSeek 模型的量化版本很多,如果只看名称,很容易看得眼花缭乱。这里先给大家一张简单对照表,帮助入门理解。量化类型位数显存占用(7B模型)速度(tokens/s)典型特征Q22 位整数约 3.2GB4 - 6极端压缩比例,对精度有明显影响Q4_04 位整数4GB6 - 8基础 4 位量化,普适性较高Q4_K_M4 位整数4.5GB8 - 10在块量化基础上做优化,精度更稳定Q5_K_M5

文章图片
#人工智能
一次性搞定:用 vLLM 容器部署 Qwen2.5-VL 并无缝接入本地 Chatbox

在本地部署一个多模态的大模型并不一定需要天花乱坠的 DevOps 大工程,也不需要写上一堆 Python 代码来启动后端 API。有了容器和vLLM,以及类似Chatbox这样的可视化界面,一条命令就能搞定服务,全程无痛。也希望这样的方法能帮到更多需要低门槛部署大模型、或希望私有化守护数据安全的团队,一起把技术创新落到实处。

文章图片
#人工智能
GrapesJS + Deepseek:前端可视化搭建的黄金拍档,挖掘前端“超车”秘诀!

在同一个编辑器内,如果你需要让不同自定义组件共享数据(如搜索框组件驱动数据列表组件、再影响统计组件),可以基于 Pinia (或 Redux)这类全局状态管理库进行通信。组件的View里,引用全局状态进行读写;导出到运行模式后,也可以在 React/Vue 里保持相同的全局状态逻辑,把这些组件变成可复用的 UI 模块。View:编辑器模式下专用脚本,同步 GrapesJS 的各项 API;Scri

让界面“想拖就拖”!深入浅出 Vue3 + AntD + GrapesJS 的可视化交互新体验

真正的所见即所得 + 样式隔离利用 GrapesJS iframe 特性,通过监听并拷贝主窗口样式,让编辑器视图与实际运行环境保持统一,不再出现“编辑器里看着完美,运行里却跑版”的尴尬。高扩展性GrapesJS 强大的插件机制,配合 Vue3 的组件化思维,加上 Pinia 的全局应用状态管理,能灵活实现各种复杂需求;多 Page弹框抽屉子页面等大交互场景也能轻松应对。动态加载通过import()

文章图片
#vue.js#前端#javascript
Deepseek 10分钟化身理性荐股神器:触碰程序员不敢想的天花板

在这个消息疯狂、波动频繁的市场,“理性”两字显得弥足珍贵。通过Deepseek+AkShare+Aktools+Dify四位一体的方案,能帮我们降低信息搜集成本,并在短期投资领域搭建出一套“可解释、低门槛、易定制”的量化荐股流程。不要再盲目听小道消息或依赖情绪驱动,不妨给自己一个机会,让数据说话。而要注意的是,“理性荐股”并非万能,它只是工具,最终的收益还得依赖投资者自身对风险和机遇的权衡。祝大家

文章图片
#人工智能
搞懂DeepSeek量化家族:每个版本都在玩什么花样?

DeepSeek 模型的量化版本很多,如果只看名称,很容易看得眼花缭乱。这里先给大家一张简单对照表,帮助入门理解。量化类型位数显存占用(7B模型)速度(tokens/s)典型特征Q22 位整数约 3.2GB4 - 6极端压缩比例,对精度有明显影响Q4_04 位整数4GB6 - 8基础 4 位量化,普适性较高Q4_K_M4 位整数4.5GB8 - 10在块量化基础上做优化,精度更稳定Q5_K_M5

文章图片
#人工智能
10倍效率还是10倍废武功?看DeepSeek如何一步步让程序员变废材的

我的技能有没有在被稀释?。一些人会因为短期收益(快速完成项目)而放弃思考的乐趣;但也有人在这股浪潮中,把AI当成“助推器”,让自己能够更专注于核心业务、复杂逻辑与创新设计。你愿意成为哪一种开发者?如果你满足于做“人形中转接口”,那么一天不离AI,可能也会让你与之融为一体,直至被替代。如果你坚持挖掘底层原理、构建更全维度的思考框架,并在“AI赋能+自我精进”中不断突破,那么即使AI再强,也很难动摇你

文章图片
#人工智能
DeepSeek 时代必修课:从java源码到 JVM 的全自动编译与重载实践

让我们先把问题描述得更具象一些。想象这样一个场景:在 AI 平台上,通过 DeepSeek 生成了一份新的后端业务逻辑,里面包含了好几个新功能和类。此时如果我们不想依赖任何 IDE,而是通过一整套脚本化、自动化流程来完成编译与运行,那就需要解决下列几个难点:源代码的增量编译由于 Java 是静态语言,必须在运行前编译才能得到文件。而且 Maven 编译需要设置完整的 classpath、依赖库等,

文章图片
#jvm
    共 11 条
  • 1
  • 2
  • 请选择