
简介
该用户还未填写简介
擅长的技术栈
可提供的服务
暂无可提供的服务
2、数据流入:question->data_transform_chain->prompt (“回答问题:{clean_question}”)->model->格式转换。question我理解就是占位符,将“缅因猫掉毛怎么办”传入到step1当中,过LLM处理后解析格式,然后将输出结果传入到key_words,作为step2 的入参。语法:RunnableBranch( (条件函数, 子链), 默
2、数据流入:question->data_transform_chain->prompt (“回答问题:{clean_question}”)->model->格式转换。question我理解就是占位符,将“缅因猫掉毛怎么办”传入到step1当中,过LLM处理后解析格式,然后将输出结果传入到key_words,作为step2 的入参。语法:RunnableBranch( (条件函数, 子链), 默
这里插个题外话,我自己原来想的是,上下文越长的,玩起来越有沉浸感。换句话说,只要token_counter的后面为len就是信息条数,非len就是计算token数,如果想要快速计算token就用count_tokens_approximately。另外,长记忆提示词可以做一些修改,因为原版长记忆提示词只记录用户的行为,关键NPC出现了明显变化则记不住,经常导致很久之前把A NPC杀了或者怎样,后面
这里插个题外话,我自己原来想的是,上下文越长的,玩起来越有沉浸感。换句话说,只要token_counter的后面为len就是信息条数,非len就是计算token数,如果想要快速计算token就用count_tokens_approximately。另外,长记忆提示词可以做一些修改,因为原版长记忆提示词只记录用户的行为,关键NPC出现了明显变化则记不住,经常导致很久之前把A NPC杀了或者怎样,后面
想利用空余时间进行大模型的离线部署微调与开发的学习,相关经验积累于博客中,与君共勉。








