本文指的数据集为通用数据集，并不单是给机器学习领域使用。包含科研和工业领域需要自己制作数据集的。首先，在制作大型数据集时，代码错误和数据问题可能会非常复杂。前期逻辑总是简单的，库库一顿写，等排查的时候两眼无泪。后期慢慢摸排和检查的时候不断完善代码，前期代码主要是完成功能，后期是增加维护性和检测性。这部分工作其实前期可以考虑进去。以下提供一些血泪经验。

简单来说，浮点数用类似科学计数法的方式来表示一个很大或很小的数字。符号位：表示正负。指数位：表示数值的规模（例如，10的几次方）。尾数位：表示数值的精度（例如，1.234…）。FP16和BF16的区别就在于如何分配这16个比特（位）给这三个部分。特性FP16（半精度）BF16（脑浮点数）FP32（单精度）总位数16位16位32位符号位1位1位1位指数位5位8位8位尾数位10位7位23位动态范围较小

QLORA（）是一种高效的大模型微调技术，通过4位NormalFloat（NF4）量化（针对正态分布权重的信息最优格式）、双重量化（量化量化常量，平均每参数节省0.37位）和分页优化器（利用NVIDIA统一内存避免显存峰值）三大核心创新，将65B参数模型的微调显存需求从>780GB降至<48GB，同时完全匹配16位全参数微调的性能；基于QLORA训练的Guanaco模型。

一个轻量级流程编排引擎节点 = 任务流程 = 任务连线>>= 执行顺序支持：重试、批量、异步、分支判断你只需要写任务，框架帮你调度执行。

（.wps 先让 WPS 另存为 .docx 即可）

LangSmith：LangChain 全家桶，闭源 SaaS，开箱即用。LangFuse：通用 LLM 工程平台，开源自托管，Prompt 强。Phoenix：ML/LLM 观测专家，开源自托管，模型/数据监控强。最后还需要根据核心需求（调试 / Prompt / 模型监控）等进一步选型。

官网下载对应系统安装包（https://neo4j.com/deployment-center/?本地安装适配java JDK；解压后执行./bin/neo4j start（Linux/Mac）或bin\neo4j.bat start（Windows）；访问http://localhost:7474；用默认账号密码（neo4j/neo4j）登录并修改密码。

vLLM 原生内置了 Prometheus 格式的/metrics接口，配合 Prometheus + Grafana 即可实现指标可视化。

OpenDuckmini是一个超棒的开源双足机器人，在英伟达2025年末演讲上演示而爆火。硬件部分已经有很多人出教程了，但软件部分提及的较少。因此记录一下复现过程中的一些经验。

vLLM 原生内置了 Prometheus 格式的/metrics接口，配合 Prometheus + Grafana 即可实现指标可视化。