《大规模语言模型：从理论到实践（第2版）》的出版上市，希望可以让读者快速掌握大语言模型的研究与应用，更好地应对相关技术挑战，为推动这一领域的进步贡献力量。

复旦大学计算科学技术学院的张奇教授及其团队于2023年9月公开发布了《大规模语言模型：从理论到实践》共享书籍。前不久，张奇教授团队再次公开发布了本书的第二版

语言长期以来被认为是人类推理的基本工具。大型语言模型（LLM）的突破激发了大量研究兴趣，推动了利用这些模型解决复杂推理任务的探索。

小型语言模型（SLMs）因其高效性和在执行各种语言任务时所需的计算资源较少，变得越来越重要，使它们非常适合于包括设备端、移动设备、边缘设备等多种场景。在本文中，我们对小型语言模型进行了全面的综述，重点介绍了它们的架构、训练技术和模型压缩技术。

今天我要和你聊聊一个超实用的技术——基于RAG（Retrieval-Augmented Generation）的视频检索方案。

ConversationSummaryMemory这种类型的记忆随着时间的推移创建对话的摘要。对话摘要记忆随着对话的发生而总结对话，并在记忆中存储当前的摘要。ConversationSummaryMemory这种记忆对于较长的对话最有用，可以避免过度使用Token，因为将过去的信息历史以原文形式保留在提示中会占用太多的Token。复制代码摘要对话：每次新的互动发生时对对话进行摘要，而不是保存完整的

扣子/coze 是一个 LLM 的应用开发工具，他内置了很多自己的工具，可以提供给开发者直接使用。而且他还提供了自定义相关插件的功能，那么我们就可以结合他的自定义的能力扩展出很多的能力，从而可以构建我们自己的应用程序。

《字节跳动 Agent 实践手册》系统构建了 Agent 技术从理论到实践、从技术到业务的完整指导体系，全面覆盖字节跳动 Agent 技术应用的核心维度。

本文将以“本地运行大模型”为核心，提供从入门到高阶的配置方案，助你避开硬件选择陷阱。

本文将详细介绍如何在虚拟化平台 Proxmox Virtual Environment（PVE）配置显卡直通，将宿主机上的物理显卡直接分配给 AI 虚拟机使用。