Standard Intelligence 公司一周前发布了业界首个开源的对话音频生成基础模型 hertz-dev。这个总参数量达到 85 亿的全双工音频模型不仅性能出众，更是完全开源，让我们一起来深入了解它的技术细节。

根据git issue的讨论，这个问题实际上是 bitsandbytes 库对 H100/H800 这类 Hopper 架构 GPU 的 8-bit 量化不支持的根本问题。这个问题目前仍然处于开放状态，官方团队正在考虑对 Hopper 架构的支持。如果必须在 H100/H800 上运行，建议使用 4-bit 量化作为替代方案。硬件级别的兼容性问题无法通过代码优化来解决。