GitHub学习之GitHub相关的几个网站

更新需求了

1175人浏览 · 2021-06-01 17:01:10

更新需求了 · 2021-06-01 17:01:10 发布

1.https://github.community/ GitHub社区，在里面可以跟根底的大神进行讨论

2.https://docs.github.com/ GitHub相关文档，小白必看，我看了大概3天，从头到尾耐心看一篇，操作一遍，可以少踩很多坑

3.https://docs.github.com/en/github/getting-started-with-github/quickstart/github-glossary#access-token GitHub常用术语清单

加入AMD AI开发者计划！

免费领 150 小时云算力，进群参与显卡、AI PC 幸运抽奖

更多推荐

模型量化精度异常时的检查与止损

为了将 70B 大语言模型的部署成本打下来，我们将线上 vLLM 推理集群的模型权重与激活值从 FP16 全量量化到了 INT8（采用 W8A8 方案）。量化效果立竿见影：单卡 A100-80G 的显存占用直接从 140GB（需 2 卡并行）缩减到了 70GB，单卡即可拉起，推理吞吐量（Tokens/s）提升了将近一倍。然而上线不到两天，客服渠道就接到了多起投诉。在处理复杂代码推导和长文本逻辑分析