摘要： llama.cpp是一个开源项目，致力于通过CPU优先的设计和C++优化，使大语言模型(LLM)能够在消费级硬件上本地运行。其工作流程包括：从Hugging Face获取预训练模型、编译llama.cpp工具链、将模型转换为GGUF格式、进行量化优化，最后执行本地推理。报告深入探讨了BFloat16转换的必要性，指出16位浮点格式转换是确保数值稳定性和GGUF序列化的关键步骤。GGUF格式

调用大语言模型的API，相当于调用已经写好的函数，我们只需要结合我们的实际需求进行包装一下（也就是学会用哪些参数去调用就行）。

非监督学习

这一章很重要，主要与机器学习中的模型确定相关方面联系较大。需要大家认真对待。

评价类，预测类和优化类。

总结了一下让大家在数模比赛中更容易得奖的技巧

下面是给入门小白推荐的一些好的项目，看完这些，起码能扫个盲，知道大模型是什么，大概有什么，具体是怎么操作的。再一个就是推荐一下datawhale，这个是一个免费的开源学习网站，有很多志同道合的优秀的人在上面分享技术，课程，资料，可以多了解一些。整篇文章就相当于是一个知识的汇总总结了。

摘要 本文探讨了新一代检索增强生成（RAG）技术如何通过知识图谱与本体论优化解决传统RAG的局限性。GraphRAG利用层次化社区发现实现全局检索，LightRAG通过双层网络兼顾效率与推理能力，KAG则专注于专业领域的逻辑推理。文章对比了各架构在计算成本、动态更新等方面的表现，并深入解析了本体（Ontology）作为知识图谱基石的关键作用，包括类结构、属性网络和逻辑约束。最后介绍了开放学术图谱（

摘要： 微调大语言模型（LLM）的核心在于高质量数据。本指南详细解析了数据处理流程：清理噪声、匿名化隐私信息（PII）、过滤低质量样本，并对比了两种主流数据格式——Alpaca（适合单轮指令任务）和ShareGPT（适配多轮对话）。通过嵌入空间分析和“超级过滤”技术，可评估数据多样性与质量，避免冗余和噪声。关键策略是混入5-10%通用数据，防止模型遗忘基础能力。最终，优质数据是模型性能的决定性因素

2025年AI技术回顾与个人成长总结 2025年，大语言模型（LLM）技术持续突破，推动AI从理论研究走向产业落地。作者从计算机视觉（CV）转向NLP领域，亲历了技术浪潮的演进：从初探DeepSeek部署的迷茫，到掌握Ollama本地化部署、vLLM企业级优化等全栈解决方案。 技术探索聚焦两大核心： Tokenizer底层研究：剖析分词机制对模型性能的影响，开源Genesis-LLM工具包，解决专