维度Token（词元）上下文窗口（Context Window）1. 定义与本质Token 是 LLM 处理的最小语义原子单元，是文本在模型内部数字化表示的粒度划分。它不是简单的字符或字节，而是分词算法（Tokenization Algorithm）根据统计学规律将原始文本切分后的离散单元 [1]。在模型看来，Token 是进入神经网络前嵌入（Embedding）的索引标识符（Integer ID

PEFT库通过引入适配器模块和提示调优等技术，实现了高效、低资源消耗的模型微调。其广泛的应用场景和灵活的配置使其成为大型预训练模型在实际任务中的重要工具[1][2][4]。

PEFT库通过引入适配器模块和提示调优等技术，实现了高效、低资源消耗的模型微调。其广泛的应用场景和灵活的配置使其成为大型预训练模型在实际任务中的重要工具[1][2][4]。