大模型是深度学习自然语言处理皇+冠上的一颗明珠，也是当前AI和NLP研究与产业中最重要的方向之一。

LoRA的本质就是用更少的训练参数来近似LLM全参数微调所得的增量参数，从而达到使用更少显存占用的高效微调。

随着Llama 3的发布，国内各路英雄豪杰纷纷开启了炼丹之旅。Llama-3 8b在惊人的15万亿令牌上训练，而Llama-2仅为2万亿。毋庸置疑，Llama 3目前是开源大模型中能力最强的！其跑分成绩已经赶上了GPT-4。

本文将指导您下载并使用Ollama，在您的本地设备上与开源大型语言模型（LLMs）进行交互的强大工具。

前几天，Meta发布了他们迄今为止体量最大的开源AI模型——Llama 3.1。这个模型在多项基准测试中表现卓越，甚至优于GPT-4o和Anthropic的Claude 3.5 Sonnet。

【LLM大模型】构建本地知识库(上): langchain+ollama构建本地大模型应用