logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

LangChain4j 的 AI Services

可以被理解为一个“AI 服务生成器”。你只需要定义一个包含特定业务方法的 Java接口,并通过注解描述这些方法的行为,LangChain4j 就会在运行时自动生成该接口的实现类(一个代理对象)。这种声明式编程的模式,与或Retrofit的设计思想如出一辙。它让你的业务代码专注于“做什么”,而将“怎么做”(如调用 LLM、处理输入输出、管理对话历史)的复杂性完全隐藏在框架内部。

#人工智能#python#开发语言
AI服务的可观测性与运维

我们需要在关键位置创建自定义 Span,记录模型调用、Token 用量等关键信息。创建 ActivitySource在 Semantic Kernel 调用中添加 Span由于 Semantic Kernel 内部已支持 OpenTelemetry(通过HttpClient的自动追踪),但我们可以包装 Invoke 方法以添加更细粒度的信息。activity?activity?activity?/

#人工智能#运维
AI应用性能优化与生产环境部署

NVIDIA TensorRT 是一个高性能深度学习推理优化器,可以对训练好的模型进行层融合精度校准(FP16/INT8)和内核自动调优,显著提升在 NVIDIA GPU 上的推理速度。对于 YOLO、BERT 等模型,TensorRT 往往能带来2-5 倍的加速,同时降低显存占用。

#人工智能#性能优化
AI 服务企业级数据隐私与安全

提示词注入防御:通过输入净化、系统指令加固和内容安全过滤,降低攻击风险。部署模式与数据脱敏:分析了本地化与云端的权衡,并提供了混合架构和脱敏策略。审计日志设计:明确了 AI 审计的核心要素,并实现了防篡改、可追溯的日志系统。安全不是一次性工作,而是贯穿 AI 应用生命周期的持续过程。

#人工智能#安全#网络
多模型协同与智能体(Agent)架构

在群聊模式中,每个 Agent 都是一个独立的 Kernel 实例,拥有自己的系统提示词、插件和模型配置。它们通过一个协调器进行通信,模拟人类团队的协作流程。例如,一个“软件架构师”Agent 负责拆解需求,一个“代码生成器”Agent 负责编写代码,一个“代码审查者”Agent 负责检查质量。当内置插件无法满足需求时,规划器可以生成C# 代码,然后动态编译执行。这需要谨慎启用,因为它涉及代码执行

#架构
多模型协同与智能体(Agent)架构

在群聊模式中,每个 Agent 都是一个独立的 Kernel 实例,拥有自己的系统提示词、插件和模型配置。它们通过一个协调器进行通信,模拟人类团队的协作流程。例如,一个“软件架构师”Agent 负责拆解需求,一个“代码生成器”Agent 负责编写代码,一个“代码审查者”Agent 负责检查质量。当内置插件无法满足需求时,规划器可以生成C# 代码,然后动态编译执行。这需要谨慎启用,因为它涉及代码执行

#架构
Semantic Kernel 内核详解

1. 从类加载(推荐)使用特性标记方法,SK 会自动发现并注册。"User ID"注册时,需要将依赖的服务也注册到 DI 容器中。2. 从对象加载对于已有实例,可以直接添加到插件集合。3. 从目录加载(OpenAPI/Swagger)SK 支持从 OpenAPI 文档自动生成插件,可以快速集成第三方 REST API。// 1. 注册 OpenAPI 插件(自动生成设备查询函数)// 处理 API

#flask#python#后端
事件驱动流程链——EPC

对于系统架构师而言,EPC是一个不可或缺的工具箱中的利器。它帮助我们抽丝剥茧,从纷繁的业务需求中提炼出清晰、结构化的流程模型。这个模型不仅是与利益相关者(尤其是业务方)沟通的通用语言,更是我们进行系统分解、微服务设计、以及确定系统边界和数据流的基础依据。通过上述实例,希望您能体会到EPC如何将一段业务描述转化为一个可视化的、可分析的蓝图,这正是架构工作的起点和基石。

#unity#linux#游戏引擎
ES_数据存储知识

概念核心用途默认值建议_source存储原始文档,用于结果返回、更新、重建索引true永远不要禁用doc_values为排序、聚合、脚本提供磁盘上的列式存储true(对支持字段)不要禁用,除非绝对确定用不到fielddata为text字段的排序聚合提供内存中的数据false极力避免开启,用keyword多字段替代store额外存储字段值,用于特定优化场景false大多数情况不需要,优先使用_sou

#elasticsearch#服务器#java
ES_索引模板

拥抱组合模板:始终使用新的组合模板 (),它更灵活、更模块化,是未来的方向。模块化设计:将通用设置()和特定类型数据的映射()拆分成不同的组件模板,像搭积木一样组合它们。与 ILM 紧密集成:模板负责索引的“出生设置”,ILM 负责索引的“一生管理”。两者结合是实现自动化运维的基石。使用别名:在索引模板中自动为新索引添加别名。应用程序永远只通过别名读写数据,为后端的索引滚动和更换提供彻底的透明性。

#elasticsearch#jenkins#大数据
    共 25 条
  • 1
  • 2
  • 3
  • 请选择