我们进行了一系列实验，在一系列推理基准上比较了所提出的自一致性方法与现有方法。我们发现自一致性大大提高了所考虑的每个语言模型的推理精度，跨越了广泛的模型尺度。任务和数据集。我们在以下推理基准上评估自一致性。3•算术推理。对于这些任务，我们使用了Math Word Problem Repository (KoncelKedziorski等人，2016)，包括AddSub (Hosseini等人，20

我们提出了一种轻量级的自适应方法，可以有效地将LLaMA微调为指令遵循模型。lama - adapter采用52K自指导演示，在冻结的LLaMA 7B模型上只引入1.2M可学习参数，在8个A100 gpu上进行微调花费不到一个小时。具体来说，我们采用了一组可学习的自适应提示符，并将它们添加到更高的转换器层的单词令牌中。然后，提出了一种带有零门控的零初始化注意机制，该机制自适应地将新的教学线索注入到

增强语言模型(ALMs)将大型语言模型(LLMs)的推理能力与允许知识检索和操作执行的工具混合在一起。现有ALM系统触发LLM思维过程，同时以交错的方式从这些工具中提取观察结果。具体来说，LLM调用外部工具的原因，暂停以获取工具的响应，然后根据前面的所有响应令牌决定下一个操作。这种范例虽然简单且易于实现，但由于冗余提示和重复执行，通常会导致巨大的计算复杂性。本研究首次解决了这些挑战，提出了一种模块

我们研究了语言模型执行组合推理任务的能力，其中整体解决方案依赖于正确组合子问题的答案。我们衡量模型能够正确回答所有子问题但不能生成整体解决方案的频率，我们称之为组合性差距。我们通过提出多跳问题来评估这一比率，这些问题的答案需要组合在预训练期间不太可能同时观察到的多个事实。在GPT-3系列模型中，随着模型大小的增加，我们发现单跳问答性能比多跳问答性能提高得更快，因此组合性差距没有减小。这个令人惊讶的

这篇论文研究了如何通过生成一系列中间推理步骤（即思维链）来显著提高大型语言模型进行复杂推理的能力。论文展示了一种简单的方法，称为思维链提示，通过在提示中提供几个思维链示例来自然地激发这种推理能力。论文中提到，思维链推理能力与模型规模相关，只有大型模型才能有效地生成思维链。这篇论文通过示例学习的方式，利用大型语言模型自动生成思维链，从而提高了其推理能力。通过学习这些示例，模型可以学会在遇到新的推理任

我们的研究表明，通过在解码器中融合来自多个段落的证据，可以显著提高开放领域问答的性能。我们的方法不仅简单，而且在NaturalQuestions和TriviaQA基准上超越了最先进的技术。此外，我们展示了通过增加检索到的段落数量，可以进一步提高模型的准确性。我们还发现，即使是大型生成模型，也可以通过使用检索来引入额外的知识，从而实现性能的显著提升。最后，我们的实验还表明，减少训练过程中的段落数量可

大型语言模型的最新进展已经展示了它们在各个领域的卓越泛化性。然而，他们的推理能力仍有很大的提高空间，特别是在面对需要多步骤推理的场景时。虽然大型语言模型拥有广泛的知识，但它们的推理往往不能有效地利用这些知识来建立连贯的思维范式。这些模型有时表现出幻觉，因为它们的推理过程不受逻辑原则的约束。为了提高大型语言模型的零枪思维链推理能力，我们提出了LoT (Logical Thoughts)，这是一个自我

在图3.1中，我们展示了第2节描述的8个模型的训练曲线。对于这个图表，我们还包括了6个额外的超小型模型，参数数量少至100,000。正如[KMH+20]中观察到的，当有效利用训练计算时，语言建模性能遵循幂律。在将这个趋势再延伸两个数量级之后，我们观察到只有轻微（如果有的话）偏离幂律。有人可能会担心，交叉熵损失的这些改进只是来自于对我们训练语料库中的虚假细节的建模。然而，我们将在以下部分看到，交叉熵

特别是，当与PaLM-540B或GPT-3一起使用时，自一致性在算术推理任务中实现了新的最先进的性能水平，包括GSM8K (Cobbe等人，2021)(+17.9%的绝对精度增益)，SVAMP (Patel等人，2021)(+11.0%)，AQuA (Ling等人，2017)(+12.2%)，以及常识推理任务，如StrategyQA (Geva等人，2021)(+6.4%)和ARCchalleng

特别是，对于复杂的问答任务，一种有效的方法是基于示例的思维链(CoT)推理提示，这大大提高了LLM的性能。借鉴基于不确定性的主动学习方法（Gentile等人，2022年）的相关问题，我们引入了几种指标来刻画模型对每个问题的预测中的不确定性。利用u，我们选择不确定性最大的n个问题，并由专家注释这些问题以制定新的示例E。应用LLMs的一种典型方式是通过提供一系列指令和示例进行上下文学习（Brown等人