logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

区块链技术学习笔记

上周末参加了一个区块链技术培训班,大致搞明白了以下问题:1、比特币为什么会衍生出挖矿、矿机这套产业链?为什么那么多人炒币?2、公有链、联盟莲、私有链的区别在此做个简单分享。1、比特币这种公有区块链的技术支撑实际上大量做服务器端开发的程序员,都对zookeeper有些熟悉,当我们为一个分布式集群寻找一致性解决方案时都会想到它。zookeeper实际使用了paxos的简化版算法(如果试图说清楚这个算法

#区块链#比特币
区块链开源实现hyperledger fabric架构详解

hyperledger fabric是区块链中联盟链的优秀实现,主要代码由IBM、Intel、各大银行等贡献,目前v1.1版的kafka共识方式可达到1000/s次的吞吐量。本文中我们依次讨论:区块链的共通特性、fabric核心概念、fabric的交易执行流程。本文来源于笔者欲对公司部分业务上链而进行培训的PPT,故图多文字少,不要怕太长。1、区块链解决方案的特性1.1 分布式帐本区块...

#fabric#区块链
BDTC2017北京大数据技术大会参会心得

《基于GPU的性能建模与分布式深度学习框架评价》是在GPU训练性能上讨论了benchmark分析方法。从CPU到GPU后,训练时间降低了一些,但能降得更多些吗?换成多块GPU显卡,可以再下降吗?应当采购什么样的显卡,性价比最好?这场分享回答了以上问题。我们如何设计网络模型,以使得GPU可以满载呢?这里要引入一个指标OI(operational insensity),它表示计算量除以带宽FLOPS/

大模型时代的流量调度与架构演进:解构基于语义的路由策略

本文探讨了AI时代下语义路由的技术演进,分析了传统反向代理和负载均衡算法在大语言模型(LLM)集群调度中的局限性。文章详细解构了三种主流解决方案:Kong基于嵌入模型的向量相似度路由、Higress基于生成模型的文本分类路由,以及vLLM-SR基于分布式LoRA的多维信号路由。每种方案都有其优缺点,其中vLLM-SR通过在路由运行时原生内嵌轻量分类器,实现了性能与准确性的最佳平衡。文章还展望了语义

文章图片
#架构
大模型时代的流量调度与架构演进:解构基于语义的路由策略

本文探讨了AI时代下语义路由的技术演进,分析了传统反向代理和负载均衡算法在大语言模型(LLM)集群调度中的局限性。文章详细解构了三种主流解决方案:Kong基于嵌入模型的向量相似度路由、Higress基于生成模型的文本分类路由,以及vLLM-SR基于分布式LoRA的多维信号路由。每种方案都有其优缺点,其中vLLM-SR通过在路由运行时原生内嵌轻量分类器,实现了性能与准确性的最佳平衡。文章还展望了语义

文章图片
#架构
大模型时代的流量调度与架构演进:解构基于语义的路由策略

本文探讨了AI时代下语义路由的技术演进,分析了传统反向代理和负载均衡算法在大语言模型(LLM)集群调度中的局限性。文章详细解构了三种主流解决方案:Kong基于嵌入模型的向量相似度路由、Higress基于生成模型的文本分类路由,以及vLLM-SR基于分布式LoRA的多维信号路由。每种方案都有其优缺点,其中vLLM-SR通过在路由运行时原生内嵌轻量分类器,实现了性能与准确性的最佳平衡。文章还展望了语义

文章图片
#架构
django中ModelForm多表单组合的解决方案

django是python语言快速实现web服务的大杀器,其开发效率可以非常的高!但因为秉承了语言的灵活性,django框架又太灵活,以至于想实现任何功能都有种“条条大路通罗马”的感觉。这么多种选择放在一起,如何分出高下?我想此时的场景下就两个标准:1、相同的功能用最少的代码实现(代码少BUG也会少);2、相对最易于理解,从而易于维护和扩展。书归正传,web服务允许用户输入,基本上要靠表单。而dj

#django#python
用google mock模拟C++对象

google mock是用来配合google test对C++项目做单元测试的。它依赖于googletest(参见我上篇文章《如何用googletest写单元测试》: http://blog.csdn.net/russell_tao/article/details/7333226),下面我来说说linux上怎么用它来做单元测试。本文包括:1、如何获取、编译google mock;2、如何使用g

#c++#单元测试#测试
高性能网络编程6--reactor反应堆与定时器管理

在大数据和云计算时代,我们对服务器的处理能力要求越来越高,需要它处理几十万并发连接下,还能维持非常高的TPS。此时就必须用到epoll这样的IO复用,但直接基于它编程在软件工程层面效率是非常差的,我们需要一个网络模型、设计模式,来简化应用编码,反应堆就是这么一个东东。

#redis
阿里云搭建wordpress生产级CMS网站实践

搭建cms内容站点时,wordpress是一个很好的选择,不用做任何开发就可以通过配置、插件获得丰富的功能。用docker容器技术部署运维都非常简单,特别是对于wordpress这种我们无需做任何开发的组件。而出于低成本考虑,公有云都是一个最佳选择,这里我选择的是阿里云。为了提速,wordpress前会有一个nginx作为负载均衡和web加速服务器,将静态内容都由nginx处理。出于高可靠性,我选

#mysql#docker#阿里云
到底了