在本文中，我们强调了校准数据在LLM训练后剪枝中发挥的关键作用。通过系统的探索，我们证明了与原始训练数据相似的校准数据可以获得更好的剪枝性能。为了解决实际场景中难以获取的训练数据的挑战，我们提出了一种自生成的合成校准数据策略，该策略可以有效地为LLM构造合适的校准数据。实验结果表明，我们的方法显著优于现有的常用校准数据。我们坚信，校准数据作为训练后剪枝的重要组成部分，仍具有进一步研究的巨大潜力。​

好了，以上就是目前所总结的 Agent 九大设计模式，其实 Agent 中。

衡量预测结果与真实结果之间差异的函数。它通过计算模型的回归损失和分类损失99，回归损失主要处理连续型变量，常用等，对异常值敏感度不同；分类损失主要处理离散型变量，常用等，适用于不同分类任务需求。**

对比分析NVIDIA 的 H100、A100、A6000、A4000、V100、P6000、RTX 4000、L40s、L4 九款GPU，哪些更推荐用于模型训练，哪些则更推荐用于推理。在 AI 领域，有两大场景对 GPU 的需求最大，一个是模型训练，另一个是 AI 推理任务。但是很多人多可能在最开始为自己的项目做 GPU 选型时，都很难判断哪些 GPU 适合做模型训练，哪些 GPU 更适合去做推理

我们一般聊的大模型，基本都是闭源的，比如ChatGPT、Bard、Claude、文心一言、智谱清言等等。我们登录别人的网站就可以使用。现在还有一些模型是开源的，这些一般可以本地部署，就是你不上网也可以用的大模型。开源模型通常有自己的开发者社区，你可以去huggingface和GitHub上找到它们。正常来说，本地模型的部署，涉及配置复杂的依赖关系、管理硬件资源、处理可能出现的兼容性问题等。这对我们

crewAI 是一个开源框架，可以编排角色扮演的 AI 智能体，通过促进协作使这些 AI 智能体无缝衔接，处理复杂问题。本文采用的 crewAI 版本为。

什么是文本摘要？文本摘要是通过识别文本的重点并使用这些要点创建摘要来缩短文本的过程。文本摘要的目的是在不改变文本含义的前提下最大限度地缩短文本。论文1：本文描述了基于神经注意模型的抽象语句梗概方法。论文2：本文描述了使用序列到序列的RNN在文本摘要中达到的最新结果。资料库：Google Brain团队的这个资料库拥有使用为文本摘要定制的序列到序列模型的代码。该模型在Gigaword数据集上进行训练

投资分析是金融服务行业的基石，LLMs（大型语言模型）在股票评级过程中提供了提升机会。传统股票评级方法依赖分析师，面临数据过载、文件不一致和市场反应滞后等挑战。本研究利用LLMs提高股票评级的准确性和一致性，评估不同数据模态的有效性。使用2022年1月至2024年6月的多种数据集，结果显示基准方法在前向收益评估中优于传统方法。融合财务基本面数据提升评级准确性，新闻数据改善短期表现，但用情感分数替代

今天想聊聊这周一篇关于使用语言模型进行时间序列预测的工作，这个工作的主要亮点有四个:首先提出的Chronos框架将时间序列通过缩放和量化转换为token序列，从而可以直接使用语言模型架构(如T5, GPT-2等)来建模时间序列，不需要对模型架构做任何修改。这种将回归问题转化为分类问题的思路在之前的工作中很少见。​其次作者使用了一个大规模的异构时间序列数据集进行预训练。除了公开数据集还引入了数据增强

从上海车展上，我们看到由于智能座舱配置性价比较高，已经成为车企的核心竞争点之一，随着座舱硬件规模化装车，蔚小理、岚图、极狐等新势力开始注重座舱多模态交互，通过集成语音/手势/触控打造智能化差异体验。车展期间，百度、商汤、华为等拥有大模型的厂商相继推出智能座舱产品，我们认为 AI 大模型的落地，将加速赋能座舱语音助手向“AI 智能管家”升级，有望推动座舱人机主动式交互时代的到来。