多模态人工智能Agent（智能体）能够处理和学习各种数据类型，包括自然语言、图像和音频。虽然将视觉数据融入大型语言模型已有进展，但如何将图像数据转化为Agent可操作结果仍具挑战。这篇文章介绍一种新型多模态模型，结合了功能性标记(function token)的概念，专为Agent应用设计。为实现边缘设备部署，模型参数被优化至10亿以下。与GPT-4类似，该模型支持英语和中文处理。实践证明，该模型

如前所述，原始的RLHF方法使用了一种称为近端策略优化（PPO）的强化学习算法。PPO的开发旨在提高策略训练的稳定性和效率。在强化学习中，"策略"是指我们想要训练的模型；在这种情况下，策略=大语言模型。PPO背后的关键思想之一是限制每次更新步骤中策略允许改变的程度。这是通过使用一个裁剪损失函数来实现的，这有助于防止模型进行过大的更新，从而可能使训练不稳定。除此之外，PPO还在损失函数中包含了KL散

背景题目：Rigid Formats Controlled Text Generation机构：Tencent AI Lab作者：Piji Li、Haisong Zhang、Xiaojiang Liu、Shuming Shi论文地址：https://arxiv.org/abs/2004.08022收录会议：ACL 2020论文代码：https://github.com/lipiji/SongNet

2024年6月27日，Google DeepMind发布了Gemma 2，这是Gemma系列轻量级开放语言模型的最新成员。Gemma 2在架构和训练方法上都有重大创新，在多项基准测试中取得了显著进步，甚至可以与参数规模大2-3倍的模型相媲美。本文将对Gemma 2技术报告的主要内容进行解读，包括模型架构、预训练和后训练方法、性能评估等方面。

背景本文主要介绍如何基于Docker的TensorFlow Serving快速部署训练好的模型，以对外提供服务。部署在线服务（Serving）官方推荐使用 SavedModel 格式，而部署到手机等移动端的模型一般使用 FrozenGraphDef 格式。本文训练一个神经网络模型来分类衣服的图像，衣服类别有比如运动鞋和衬衫等，并用 TensorFlow Serving 将其部署到线上。模型训...

浦语·灵笔模型是基于书生·浦语大语言模型研发的视觉-语言大模型图文交错创作:浦语·灵笔可以为用户打造图文并貌的文章，具体是提供文章生成和配图选择的功能。理解用户指令，创作符合要求的文章。智能分析文章，自动规划插图的理想位置，确定图像内容需求。基于以文搜图服务，从图库中检索出对应图片。图文理解: 浦语·灵笔设计了高效的训练策略，为模型注入海量的多模态概念和知识数据，赋予其强大的图文理解和对话能力。从

部署大型语言模型（LLM）时究竟需要多少GPU显存？本文将进行一次简单测算。

LatticeLSTM 出自于 ACL2018中的Chinese NER Using Lattice LSTM。LSTM-CRF模型在英文命名实体识别任务中具有显著效果，在中文NER任务中，基于字符的NER模型也明显优于基于词。

小伙伴们好，我是微信公众号《小窗幽记机器学习》的小编：卖海参的小女孩。OpenAI 发布的o1 是一个系列模型。除了o1-preview，官方还一并发布了一个 mini 版：OpenAI o1-mini。o1-mini是面向开发者，兼顾成本和效益。o1-mini 在 STEM 领域表现出色，尤其是在方面，其性能几乎可以与 OpenAI o1 在 AIME 和 Codeforces 等评估基准上相媲

其实小编之前有介绍过关于如何用TensorRT提升模型推理速度，感兴趣的小伙伴可以回顾下：TensorRT-LLM 是一个开源库，用于定义、优化和执行大型语言模型 (LLM) 在生产环境的推理。它在开源 Python API 中保留了 FasterTransformer 的核心功能，并与 TensorRT 的深度学习编译器配合使用，以快速支持新模型和定制模型。