logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

LangChain从入门到实践——Model大模型接口

本文介绍了LangChain中语言模型的核心概念与分类。主要内容包括:1) LangChain本身不提供模型,而是集成第三方大语言模型如OpenAI、ChatGLM等;2) 模型分为三类:LLM(基础文本生成)、ChatModel(对话场景)和Embeddings(文本向量化);3) 模型继承关系以BaseLanguageModel为基类;4) 聊天模型的核心参数如temperature、max_

#人工智能#大数据
K8S GPU调度——手动管理GPU 节点

多实例GPU(MIG)功能允许将NVIDIA A卡或者H卡安全地划分为多个独立的GPU实例,供CUDA应用程序使用。例如,NVIDIA A100支持最多七个独立的GPU实例。MIG为多个用户提供了独立的GPU资源,以实现最佳的GPU利用率。该功能对于未能充分利用GPU计算能力的工作负载特别有益,因此用户可能希望并行运行不同的工作负载,以最大化资源的利用。

文章图片
#kubernetes#java#贪心算法
K8S GPU 调度——Operator 自动管理GPU

NFD(Node Feature Discovery)扫描节点基础信息,添加如 CPU 型号、操作系统版本、内核版本等标签,前缀为,用于节点特征描述。GFD(GPU Feature Discovery)专门识别 GPU 节点,添加核心标签,并补充 GPU 型号、驱动版本、显存容量等信息(如作用:这两个组件为后续组件提供 “准入条件”,只有携带标签的节点才会部署驱动和工具包。gpu0-only:#

文章图片
#kubernetes#容器#云原生
入门OpenTelemetry-Elastic EDOT全家桶方案

Elastic Stack在可观测性方面,社区版和白金版之间存在明显的功能差异。功能社区版白金版(Platinum)日志收集与搜索支持支持APM(应用性能监控)基本功能全功能(含高级仪表盘、机器学习)Metrics(系统指标监控)支持支持Uptime(服务可用性监控)支持基本 Heartbeat支持全功能和 UI 扩展安全特性(认证、权限控制)基础认证细粒度 RBAC机器学习(异常检测)不支持支持

基于jenkins+k8s(container)实现CI/CD

本文以企业生产环境CICD流程为背景,利用 Jenkins、SonarQube、Harbor、Container、Kubernetes技术,搭建一个完整的 CI/CD 管道,模拟实际生产环境项目开发部署流程,实现持续集成、持续交付和持续部署。

文章图片
#jenkins#kubernetes#ci/cd
ES8生产实践——数据查询与数据可视化(Grafana)

ES数据可视化除了使用kibana外,grafana也是常用的数据可视化工具。相较于kibana来说,grafana支持的图表样式等配置项更多,可以根据自己的需求灵活制作出各种复杂的图表,相应的上手难度略高于kibana。使用Grafana的好处是将来如果使用Prometheus监控,可以将业务日志图表与服务性能监控组合展示,可以按不同的dashboard设置权限方便不同组的用户查看与编辑。接下来

文章图片
#grafana#elasticsearch
LangChain从入门到实践——LangChain介绍

LangChain是一个模块化的Python开源框架,旨在简化基于大语言模型(LLM)的应用程序开发。它通过"链式"连接LLM与外部数据、工具和记忆组件,解决LLM的信息过时、无法执行操作和记忆有限等痛点。核心功能包括统一模型接口、提示词模板、链式工作流和智能代理等,支持多种模型(如OpenAI、Hugging Face)和工具集成(如搜索、数据库)。LangChain特别适合

文章图片
LangChain从入门到实践(七)——Tool工具调用

文章摘要: 本文介绍了LangChain中的Tool机制及其实现方式。Tool允许大语言模型调用外部函数或API,扩展了模型的静态能力,使其能够实时访问数据、执行计算、查询数据库等。文章详细讲解了Function calling的工作原理、Tool类的继承关系,并展示了如何使用内置PythonREPLTool执行代码。此外,还介绍了两种自定义Tool的方法(@tool装饰器和StructuredT

文章图片
#microsoft
LangChain从入门到实践——PromptTemplate提示词模板

本文介绍了LangChain中的提示词模板(PromptTemplate)及其使用方法。提示词模板用于结构化组织用户输入,更清晰地表达意图以提升大模型交互效果。文章分类介绍了文本生成模型模板(PromptTemplate)、聊天模型模板(ChatPromptTemplate)等6种常用模板及其继承关系。 重点讲解了文本提示词模板的创建方法:通过构造函数或from_template创建,支持部分变量

文章图片
#数据库#mysql
ES8.8生产实践——数据查询与数据可视化(Kibana)

在前面的案例中,我们顺利的通过各种方式完成了数据的采集过滤与存储,接下来我们通过kibana实现数据的查询与可视化,用图形的方式从各个维度更加直观有效的展示数据内容。

文章图片
#elasticsearch
    共 32 条
  • 1
  • 2
  • 3
  • 4
  • 请选择