logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

使用ray扩展python应用之ray系统的设计细节

本文深入解析分布式系统的核心概念与Ray框架的实现机制。主要内容包括:1)容错机制设计,重点分析Ray对无状态远程函数和有状态Actor的不同容错策略;2)数据管理,探讨Ray对象的不可变特性、存储机制及重建策略;3)高效的序列化方案,比较Cloudpickle、Arrow等工具的特点;4)灵活的资源管理,包括CPU/GPU分配和内存管理策略;5)系统扩展方式,介绍垂直与水平两种扩展途径。文章通过

文章图片
#python
在ec2上部署Qwen2.5omini和Qwen3omini模型

Qwen多模态大模型技术解析 通义千问团队推出的Qwen2.5-Omni和Qwen3-Omni系列模型实现了文本、图像、音频、视频四模态统一建模,支持端到端多模态交互。Qwen2.5-Omni突破音视频同步与流式生成技术,可通过Docker快速部署;Qwen3-Omni采用MoE架构,建议使用vLLM加速推理,其30B版本支持跨模态输入输出,并针对音频描述任务优化。实测显示模型能准确解析混合模态指

文章图片
#AI
在ec2上部署Qwen2.5omini和Qwen3omini模型

Qwen多模态大模型技术解析 通义千问团队推出的Qwen2.5-Omni和Qwen3-Omni系列模型实现了文本、图像、音频、视频四模态统一建模,支持端到端多模态交互。Qwen2.5-Omni突破音视频同步与流式生成技术,可通过Docker快速部署;Qwen3-Omni采用MoE架构,建议使用vLLM加速推理,其30B版本支持跨模态输入输出,并针对音频描述任务优化。实测显示模型能准确解析混合模态指

文章图片
#AI
使用streamlit和qwen-agent实现Qwen3-VL模型图文对话应用的思路

本文探讨了在EC2上部署Qwen3-VL-2B模型后的图片传输方案。Qwen3-VL支持通过公开URL或Base64编码传递图片数据,服务端会自动下载并临时处理图片后清除。文章比较了两种实现方式:Base64编码方案可直接嵌入请求,避免文件路径暴露;对象存储方案则推荐使用MinIO搭建私有存储,通过预签名URL确保安全访问。测试表明,多图片处理时系统负载无明显压力。此外,文中提供了Streamli

文章图片
使用streamlit和qwen-agent实现Qwen3-VL模型图文对话应用的思路

本文探讨了在EC2上部署Qwen3-VL-2B模型后的图片传输方案。Qwen3-VL支持通过公开URL或Base64编码传递图片数据,服务端会自动下载并临时处理图片后清除。文章比较了两种实现方式:Base64编码方案可直接嵌入请求,避免文件路径暴露;对象存储方案则推荐使用MinIO搭建私有存储,通过预签名URL确保安全访问。测试表明,多图片处理时系统负载无明显压力。此外,文中提供了Streamli

文章图片
HDFS高可用

其他资料:hadoop中的JournalNode的作用https://hadoop.apache.org/docs/r3.1.3/hadoop-project-dist/hadoop-hdfs/HDFSHighAvailabilityWithQJM.html基于ZooKeeper搭建Hadoop高可用集群注意要点:注意备份之前的hadoop配置文件,方便回溯部署 Zookeeper,可参考《zoo

文章图片
#大数据#hadoop
TCP是怎样工作的网络拥塞控制理论和算法部分记录

TCP是怎样工作的网络拥塞控制理论和算法部分记录

文章图片
#网络#tcp/ip#算法
aws codebuild 使用和配置codebuild测试报告

aws codebuild 使用和配置codebuild测试报告

文章图片
#aws#云计算
图解gpt之Transformer架构与设计原理

Transformer架构彻底革新了自然语言处理范式,其核心在于并行计算的注意力机制而非传统的序列处理方式。该模型由编码器和解码器组成:编码器通过多头自注意力机制提取输入序列特征,解码器则结合编码器信息和自身生成序列逐步输出结果。关键创新包括位置编码解决并行处理的位置感知问题,残差连接和层归一化稳定深层网络训练,以及自注意力机制捕捉长距离依赖关系。这种架构催生了BERT、GPT等突破性模型,成为现

文章图片
#transformer#深度学习
python中的celery和其他分布式任务队列

还有,如果某些特定的保证,比如事务性的任务流,是你的核心需求,而当前的队列无法满足,那也可能是另一个选择。选择合适的工具,是成功的关键。虽然它是用Python写的,但它的协议是开放的,理论上可以用任何语言实现,比如有人就用C++通过AMQP协议实现了对Celery的消费和发布。更高级的是,它可以处理复杂的任务流程,比如链式执行、并行执行、组合任务等。它能让你直观地看到任务的运行状态、进度、历史记录

文章图片
#python#分布式#开发语言
    共 23 条
  • 1
  • 2
  • 3
  • 请选择