logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

Flutter 复杂拖拽排序实战:同源排序 + 跨容器拖拽完整落地

在 Flutter 里面搞拖拽排序,业务简单时官方的快捷组件是生产力;但一旦涉及到复杂的双向联动、自定义预览和精细交互,深耕原生底层才是最踏实、最不容易烂尾的方式。

#flutter
彻底解决大模型 JSON 报错:提示词 + 硬约束 + 兜底的全链路修复方案

大模型 JSON 输出异常,本质是模型幻觉与业务确定性需求的矛盾。通过「事前引导→事中约束→事后补救」的全链路解决方案,可实现 JSON 输出稳定合规,适配不同场景、不同类型大模型。事前引导:通过明确字段规则、提供 Few-Shot 示例、添加校验指令,低成本引导模型输出合规 JSON;事中约束:借助JSON Mode,实现硬约束,从源头杜绝异常;

#json#windows#服务器
Claude Code 有了 Dynamic Workflows,那其他大模型怎么办?有开源版的替代-OpenWorkflows

另外workflows还有多角度探索、对抗性验证、方案投票机制,这也就是为什么它准确率更高的原因,靠规模取胜,同一个问题让5个agents同时去跑,然后再由一个agent汇总起来,确实更准确了,token也花的的飞起。OpenWorkflows的主界面大概分成四块:左侧是 workflows 历史,中央是可视化画布,右侧是节点属性和常用提示词,底部是 AI 输入与返回。右侧节点属性里可以看到选中节

#开源
从零学会LangChain调用大模型!统一接口+代码实战

通过dotenv库的load_dotenv()方法,自动读取项目里的.env配置文件,把文件中所有键值对自动载入系统环境变量os.environ,后续可直接读取模型地址、密钥等配置,避免硬编码。使用 LangChain 内置的init_chat_model初始化大模型,通过两个核心参数配置:model指定模型名称,model_provider指定模型对接厂商。可以省略model_provider参

#python#linux
大模型学习8下-高性能推理引擎vLLM学习笔记

1.1.1 LLM推理的挑战LLM正加速从云端走向边缘与本地部署,背后的驱动力主要来自更低的推理延迟、更强的隐私保护,以及更可控的部署成本。与此同时,随着模型参数规模和上下文长度不断增长,传统推理方案的瓶颈也越来越明显:显存利用率低、GPU算力利用率低、并发能力不足,并且请求量一旦增加,响应延迟就会迅速恶化。这类问题在LLM工程落地中非常常见。

#学习
大模型学习8下-高性能推理引擎vLLM学习笔记

1.1.1 LLM推理的挑战LLM正加速从云端走向边缘与本地部署,背后的驱动力主要来自更低的推理延迟、更强的隐私保护,以及更可控的部署成本。与此同时,随着模型参数规模和上下文长度不断增长,传统推理方案的瓶颈也越来越明显:显存利用率低、GPU算力利用率低、并发能力不足,并且请求量一旦增加,响应延迟就会迅速恶化。这类问题在LLM工程落地中非常常见。

#学习
从零学会LangChain调用大模型!统一接口+代码实战

通过dotenv库的load_dotenv()方法,自动读取项目里的.env配置文件,把文件中所有键值对自动载入系统环境变量os.environ,后续可直接读取模型地址、密钥等配置,避免硬编码。使用 LangChain 内置的init_chat_model初始化大模型,通过两个核心参数配置:model指定模型名称,model_provider指定模型对接厂商。可以省略model_provider参

#python#linux
一文理清 HarmonyOS 6.0.2 涵盖的十个升级点

新增Picker容器组件,支持开发者自定义构造Picker选择器。

#harmonyos#华为
到底了