logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

dnsmasq 配置

DNSmasq是一个小巧且方便地用于配置DNS和DHCP的工具,适用于小型网络,它提供了DNS功能和可选择的DHCP功能。它服务那些只在本地适用的域名,这些域名是不会在全球的DNS服务器中出现的。DHCP服务器和DNS服务器结合,并且允许DHCP分配的地址能在DNS中正常解析,而这些DHCP分配的地址和相关命令可以配置到每台主机中,也可以配置到一台核心设备中(比如路由器),DNSmasq支持静态和

kubernetes 多服务更新资源 冲突问题解决

当多个服务同时修改kubernetes相同资源时可能发生下面的冲突错误: 这是最常见的错误,表示请求无法完成,因为该资源已经被其他操作修改。Kubernetes 会返回一个包含详细信息的错误消息。: 当你尝试更新资源时,Kubernetes 会检查资源的版本。如果在更新时,资源的版本已经改变,系统可能会返回一个错误,提示你需要使用最新的版本进行更新。

文章图片
#kubernetes#容器#云原生
kubernetes 深度分析 pod

run/containerd/io.containerd.runtime.v2.task/k8s.io/【容器ID】 该目录下主要有容器的配置信息,日志文件,以及容器rootfs目录。pod下的其他容器将 加入到与sandbox相同的 network namespace, ipc namespace, uts namespace, user namespace.pod 下的sandbox容器与业务

文章图片
#kubernetes#容器#云原生
kubernetes深度分析 cni calico

5. containerd 使用 calixxx 虚拟网卡通过 veth pair 的方式生成 对端虚拟网卡eth0 for pod,并放入pod对应的网络命名空间。网络的配置方式以cni插件的方式支持动态扩展,calico即其中一种网络插件。calico 的地址分配使用calico-ipam进行,但该工具管理的地址数据存放在etcd中,可以使用calicoctl进行查看。4. 在calico场景

文章图片
#kubernetes#容器#云原生
kubernetes深度分析 csi juicefs

摘要:JuiceFS CSI插件通过juicefs-csi-node和juicefs-controller组件实现容器卷挂载。csi-node负责节点级操作:注册RPC、创建挂载目录、启动juicefsmountpod处理FUSE请求;业务容器通过该目录访问外部存储。controller负责元数据管理,不参与具体挂载。整个流程实现了容器对分布式存储的透明访问,数据最终写入外部dataserver和

文章图片
#kubernetes#容器#云原生
kubernetes深度分析 cdi nvidia-device

kubernets cdi主要完成让节点感知可供容器使用的设备资源,当容器申请对应资源时,为该容器分配设备并挂入容器使用。以cdi接入nvidia显卡设备到容器为例。

文章图片
#kubernetes#容器#云原生
kubernetes 深度分析 pod

run/containerd/io.containerd.runtime.v2.task/k8s.io/【容器ID】 该目录下主要有容器的配置信息,日志文件,以及容器rootfs目录。pod下的其他容器将 加入到与sandbox相同的 network namespace, ipc namespace, uts namespace, user namespace.pod 下的sandbox容器与业务

文章图片
#kubernetes#容器#云原生
sglang 单机多卡与多机多卡的部署

SGLang是一个基于Python的分布式计算框架,通过多进程架构突破GIL限制。它支持三种并行计算模式:张量并行(TP)、流水线并行(PP)和数据并行(DP),以及针对特定模型的局部计算并行。文章详细介绍了TP模式的单机多卡部署方法,展示了服务启动日志和API调用示例,并简要说明了多机多卡集群的配置方式。SGLang能够有效利用多GPU资源,为大规模语言模型推理提供高效的分布式计算支持。

文章图片
#sglang#kubernetes#容器
sglang 原理

本文介绍了Transformer模型推理的核心流程和关键技术。推理过程分为prefill和自回归两个阶段:prefill阶段完成分词、向量化和位置编码,生成首个token;自回归阶段通过迭代生成后续token直至结束。针对推理特点,需要专门的推理引擎来构建计算图、加载权重并提供API服务,同时支持KV缓存优化和多机多卡并行计算以提升效率。Sglang作为推理引擎的实现,重点解决了算子构建、权重加载

文章图片
#sglang
kubernetes源码分析 kubelet

从官方的架构图中很容易就能找到kubelet执行kubelet -h看到 kubelet 的功能介绍:kubelet 是每个 Node 节点上都运行的主要“节点代理”。使用如下的一个向 apiserver 注册 Node 节点:主机的hostname;覆盖host的参数;或者云提供商指定的逻辑。kubelet 基于PodSpec工作。PodSpec是用YAML或者JSON对象来描述 Pod。Kub

文章图片
#kubernetes#容器
    共 18 条
  • 1
  • 2
  • 请选择