logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

我用FastAPI接ollama大模型,差点被asyncio整崩溃(附对话窗口实战)

前阵子我做一个AI对话服务,用FastAPI接本地的ollama模型。刚开始图省事,直接用requests库同步调用,结果并发上来后,CPU直接飙满,请求排长队,最后服务彻底没响应。后来换成httpx异步客户端,以为万事大吉,结果又遇到了流式解析错误、超时设置不当的问题……折腾了两天,总算摸清了门道。今天就把这些经验掰开揉碎讲给你听,保证你能少走弯路。

#fastapi
Copilot Profiler Agent —— 分析任务交由 AI,应用性能不受影响

为了展示 Copilot Profiler Agent 的功能,让我们对一个广受欢迎的开源项目 CsvHelper 进行优化。您可以按照以下步骤操作:克隆我的代码仓库分支,然后通过“git checkout 435ff7c”命令切换到我修复之前的版本,我们将在下文详细介绍该修复。在我之前的一篇博客文章中,我添加了一个 CsvHelper.Benchmarks 项目,其中包含一个用于读取 CSV 记

#copilot#人工智能
CMake构建学习笔记-使用通用脚本构建PROJ和GEOS

这大概就是我们决定深入研究 Codex SDK 事件流机制的原因——毕竟,只有理解了底层消息是怎么运作的,才能构建出真正企业级的 AI 执行平台。在开发过程中,我们需要构建可靠的 AI 执行服务来处理用户的代码执行请求,这正是我们引入 Codex SDK 的直接原因。其实,在构建基于 Codex SDK 的 AI 执行服务时,我们不得不面对这样一个问题:如何处理 Codex 返回的那些流式事件消息

jQuery插件开发 - 其实很简单

其中引用到的上下文变量arr是["1","2","3","1","2","333",""],处理完成后的array是["1","2","3","333",""],注意我的""是空串,不是空值,因此是没有去除的。经过查询,多个查询条件组合为[{"ID":1,"文本":"AB","整数":1,"小数":1.5,"日期":44927.75,"是_否":0}]越接近1表示,方向越接近。经过查询,第一个{"

鸿蒙应用开发从入门到实战(二十四):一文搞懂ArkUI网格布局

PHP 8.6 的部分函数应用允许你通过调用函数时传入部分参数,并用占位符表示剩余参数,来创建一个"预配置"的 callable。如你所见,我们通过部分应用 add4 函数创建了一个新的 callable $f,传入了部分参数,用占位符表示缺失的参数。// Closure 期望 (int $i,?function expensive(int $a, int $b, Point $c) { /* 耗

手把手搞定FastAPI静态文件:安全、上传与访问

静态文件是那些内容固定、不经常改变的文件。它们对于构建一个完整的Web应用或API文档门户至关重要。静态文件是“读”,媒体文件则常涉及“写”(上传)。:如果你想提供单页应用(如Vue/React构建的产物),可以设置。务必使用一个独立的、权限明确的子目录(如。- 📁 FastAPI的“文件管家”:StaticFiles。目录下查找对应文件。它不是API路由,而是一个独立的子应用。- 挂载:将UR

#fastapi#安全
Flink源码阅读:双流操作

本文我们梳理了 Flink 的三种双流操作的源码,我们了解到 Window Join 底层是通过 CoGroup 实现的。CoGroup 本身是将两个流合并成 WindowedStream 并依赖于 WindowState 进行数据 join。最后 Interval Join 是通过 ConnectedStreams 实现的,内部的 IntervalJoinOperator。

#flink#java#前端
Flink源码阅读:Watermark机制

Watermark 的定义非常简单,它继承了类,内部只有一个 timestamp 变量。= null@Override@Override本文我们一起梳理了 Watermark 相关的源码,从 Watermark 的定义,到 Watermark 的处理过程。处理过程分成了初始化、上游发送和下游处理三部分。在下游处理部分,关于触发窗口计算的部分我们简单带过了,后面会再详细介绍这部分。

#flink#java#算法
解决 Semi Design Upload 组件实现自定义压缩,上传文件后无法触发 onChange

主题(Topic)是消息的逻辑分类,每个主题被划分为多个分区(Partition)实现并行处理,每个分区又有多个副本(Replica)保证高可用。Kafka 适用于大数据场景的“重载卡车”,RabbitMQ 好似城市中的“跑车”灵活快速,RocketMQ 则是全能的“SUV”平衡可靠与性能。(Pull),消费者主动从 Broker 拉取消息,适合高吞吐但不保证极低延迟的场景。生产者将消息发送到交换

同事查日志太慢,我现场教他一套 awk、tail、grep、sed 组合拳

很多新手习惯用 ,但对于大文件, 会导致屏幕刷屏,还容易把终端卡死。 才是实时监控的神器。真实场景 A:服务发版启动监控每次发版重启服务时,我们都需要确认 Spring Boot 是否启动成功,或者有没有初始化报错。真实场景 B:配合测试复现 Bug测试同学说:我现在点一下按钮,你看看后台有没有报错。此时不需要看历史日志,只需要盯着最新的输出。less

    共 12 条
  • 1
  • 2
  • 请选择