
简介
该用户还未填写简介
擅长的技术栈
可提供的服务
暂无可提供的服务
os.environ["OPENAI_API_KEY"] = "ollama"# Ollama 不校验,填任意值。os.environ["OPENAI_API_KEY"] = "ollama"# Ollama 不校验,填任意值。"model": "nomic-embed-text",# 嵌入模型。"model": "nomic-embed-text",# 嵌入模型。"model": "llama3
前面学过的列表和元组,都是按顺序存数据的。想找到某个数据,得知道它的位置(下标)。但有些场景不适合用列表。想查张三的成绩,得先找到张三所在列表里的位置,再去成绩列表里找同一个位置的数据,非常麻烦。今天就来学——一种用"名字"来找"值"的数据容器,就像查字典一样方便。
尤其是当GPU显卡不多,或者是配置不太给力的情况下,为了确保模型的可用性,建议还是往小了选型,优先保障性能。如果是显卡不太充裕的环境,不是很建议直接上全量的DeepSeek大模型,而且有些硬件对于量化版本的支持并不是很好,反而是BF16原生的格式支持的比较好。新版本的KTransformer是调用了sglang的一个定制版来进行服务的启动,相关的安装所需仓库、路径、文件都在源代码中。配置的参数也会
基础设施的意思是:该有护栏的地方要有护栏,该自动化的地方要自动化。Hooks 就是这基础设施里的“水泥”。你不需要装 27 个,从你最疼的地方开始每次启动都要重新交代状态 → 装怕它删库跑路 → 装PreToolUse拦危险命令烦透格式问题卡 CI → 装自动格式化不想当验收员 → 装Stop自动跑测试想手机收通知 → 装Stop+ 飞书机器人5 个 hook,一下午配好,之后天天受益。未来已来,
者是从2014年开始养成了写技术blog的习惯,当时给自己设了一个朴素的原则:把要做的事情想清楚,把想清的事情做出来,把做出的事情写下来。如今十几年过去,很庆幸一直没丢弃这个习惯。但最近笔者其实也一直在思考一个问题,在当前的生成式AI时代背景下,知识、技术其实非常容易获得,连写一个新的应用程序都开始了Vibe Coding,人类坚持写技术blog的意义还有多大?与瞬间就能生成各类文章的AI相比,人
SERL 的核心价值不是提出一个全新的强化学习算法,而是把一组已经被验证有效的算法、控制、数据、奖励与分布式训练工程整合成一套可直接用于真实机器人的样本高效 RL 软件栈,提供了一套从底层机器人到上层训练的"垂直整合"系统。这种鸿沟致使仿真里的"盖世武功"回到现实往往变成了"笨拙的颤抖"。如果说 LWD 描绘的是车队级通用机器人在真实部署中持续进化的未来,那么 SERL 就是这条路线的工程起点:它
尤其是当GPU显卡不多,或者是配置不太给力的情况下,为了确保模型的可用性,建议还是往小了选型,优先保障性能。如果是显卡不太充裕的环境,不是很建议直接上全量的DeepSeek大模型,而且有些硬件对于量化版本的支持并不是很好,反而是BF16原生的格式支持的比较好。新版本的KTransformer是调用了sglang的一个定制版来进行服务的启动,相关的安装所需仓库、路径、文件都在源代码中。配置的参数也会
多轮对话摘要的嵌入策略面向跨越多个轮次的复杂讨论场景,其核心挑战在于如何在有限的向量维度中压缩丰富的时序演进信息。推荐的策略采用"分层摘要嵌入"模式:第一层为会话级摘要,由 LLM 在会话结束时生成,涵盖主要讨论主题、关键决策、待办事项和未决问题,该摘要作为独立Memory存入专门的房间;第二层为主题级摘要,当检测到会话中涉及多个独立主题时,为每个主题生成子摘要,记录该主题下的核心论点和结论;第三
基础设施的意思是:该有护栏的地方要有护栏,该自动化的地方要自动化。Hooks 就是这基础设施里的“水泥”。你不需要装 27 个,从你最疼的地方开始每次启动都要重新交代状态 → 装怕它删库跑路 → 装PreToolUse拦危险命令烦透格式问题卡 CI → 装自动格式化不想当验收员 → 装Stop自动跑测试想手机收通知 → 装Stop+ 飞书机器人5 个 hook,一下午配好,之后天天受益。未来已来,







