特点和使用：Token 可以是任何格式的数据字符串，不仅限于JWT。Token 可能仅作为引用存储在服务器上，服务器通过该引用来获取存储的状态信息。经统一的身份验证后，Token 用来管理用户会话。可以通过 HTTP headers、URL 参数或请求体传输。

BaseAgentRunner：所有 Agent Runner 的基类，提供了基础功能如：工具初始化和转换Agent 思考过程的创建和保存历史消息的组织和处理文件处理CoT Agent Runner：基于 Chain of Thought 的 Agent 实现继承自 BaseAgentRunner实现了反应式思考过程支持多轮迭代工具调用使用 CotAgentOutputParser 解析模型输出。

流式响应在大模型服务中可大大提高用户体验，在 Python 中主要有两种方式实现流式响应，即fastapi 的 StreamingResponse和SEE 模块的 EventSourceResponse，既然两者都可以实现流式响应，那么我们在实际应用中应该如何选择呢？

在编写Web应用程序时，有时需要调用可能需要一些时间的外部服务或执行耗时操作的函数。在传统的同步编程中，这将导致整个应用程序阻塞，直到该函数返回结果。为了提高应用程序的性能和响应能力，我们可以使用异步编程。异步编程允许同时处理多个任务，而不会阻塞其他代码的执行。在 Python 中，我们可以使用 asyncio 模块来实现异步代码。asyncio 提供了一种基于协程的方法来编写异步代码，通过使用

转载：https://blog.csdn.net/asialee_bird/article/details/148604776uv 是一个新兴的 Python 包管理工具，它旨在提供比 pip 和 poetry 更快、更现代的依赖管理体验。uv 由 Charles Murphy 开发，基于 Rust 构建，具有极高的性能和兼容性，支持标准的 requirements.txt 文件以及 pyproj

Tokenizer 函数构造一个分词器对象。分词方式主要有word-level、subword-level、char-level三种，其中，subword-level分词方式又有四种不同实现的方法：BPE、Unigram、WordPiece、SentencePiece。参数 model 表示分词器使用的分词方式，接受一个Model对象，这里主要实现了 word-level 的分词方式以及 subw

制作Docker镜像，一般有两种方式：一种是commit方式，利用已有的镜像，运行后安装定制自己需要的环境，然后生成镜像；另一种就是build方式，通过编写Dockerfile命令脚本进行生成镜像。本文介绍使用commit制作镜像，并配置容器内程序自动启动。

参考：https://blog.51cto.com/u_16213566/8771682。

（H264Track继承自）VideoTrack继承自Track继承自CodecInfo和FrameDispatcher继承自FrameWriterInterface。（H264Track继承自）VideoTrack继承自Track继承自CodecInfo和FrameDispatcher继承自FrameWriterInterface。H264Track继承自VideoTrack继承自Track继承

ZLMediaKit拉流结构体创建是在RtspSession::onRecv()之后。如何触发onRecv()请参考这里不在赘述。RtspSession::onRecv()数据处理参考这里也不再赘述。