logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

【从第一性原理来深入理解Transformer-更适合入门的理解(llama-3B模型为例)】

本文深入解析了Transformer架构的核心原理,以Meta LLaMA 3.2 3B模型为例,揭示了大语言模型的工作机制。文章开篇指出,所有大模型本质上只做一件事:根据上文预测下一个词。Transformer通过注意力机制完美解决了这一任务,其核心在于QKV(查询、键、值)三张"名片"的计算,使模型能直接建立词与词之间的关系,避免了RNN的串行计算和信息丢失问题。文章详细拆解了LLaMA 3.

文章图片
#transformer#深度学习
SDN-软件定义网络研究(基础发展、同NFV的区别,优势及挑战)

SDN是对传统网络架构的一次重构,由原来的分布式控制的网络架构重构为集中控制的网络架构。

文章图片
#网络#云计算#计算机网络 +1
云计算基础-虚拟化技术的发展和详细研究

虚拟化是一种利用软件技术将物理资源抽象、转换和隔离的方法,它可以提高资源的利用率、灵活性和安全性。从虚拟化技术提出到今天的快速发展,虚拟化技术有多种类型,如服务器虚拟化、网络虚拟化、存储虚拟化、桌面虚拟化等,它们都在不同的领域和场景中发挥着重要的作用。

文章图片
#云计算
【从零开始理解大语言模型(LLM)】

摘要: 本文用通俗语言介绍了大语言模型(LLM)的发展与应用。从AI的三阶段发展(符号主义、机器学习、深度学习)到Transformer架构的突破,解释了LLM如何通过海量数据训练获得语言能力。核心原理是"预测下一个词"的神经网络,通过预训练、微调和强化学习三个阶段优化。主流模型如GPT系列具备对话、创作、编程等多元功能,但也存在幻觉、隐私等问题。文章强调LLM并非真正&quo

#语言模型#人工智能
网络安全-安全Web网关(SWG)详解

安全Web网关(SWG)虽然主要工作在OSI模型的第七层(应用层),但它的监控和控制能力并不仅限于处理通过浏览器的流量。SWG的设计允许它处理和监控所有经过网关的基于HTTP/HTTPS的流量,不论这些流量是通过浏览器、应用程序还是其他任何形式的网络通信产生的。通过这些核心技术,SWG为企业网络环境提供了全面的安全防护,不仅防止了恶意软件的侵入和数据的泄露,还提高了整体网络的安全性和合规性。随着网

文章图片
#安全#web安全
安全-DDOS介绍及攻击防御原理说明

DDoS攻击(Distributed Denial-of-Service attack)是指利用多台主机对目标服务器发起大量的请求,从而使其无法处理正常的网络流量并导致服务不可用。这些请求通常是恶意的、占用大量带宽的和重复的,导致服务器在瞬间被过载,无法响应真正的客户端请求。DDoS攻击可以通过各种手段进行,如利用僵尸网络、利用漏洞发起攻击或伪造IP地址等。它不仅给网站运营者和用户带来影响,而且可

文章图片
#安全#ddos
数据中心的发展及液冷技术介绍

数据中心是互联网时代的核心基础设施,承载着海量的数据运算和存储功能。随着云计算、人工智能、区块链等技术的发展,数据中心的规模和性能不断提升,也带来了更高的功率密度和散热需求。传统的风冷技术已经难以满足数据中心的冷却效率和节能目标,液冷技术因其具有更高的热传导性能和更低的能耗成本,逐渐成为数据中心散热的新选择。预计未来几年,液冷市场将持续增长,液冷技术将成为数据中心散热的主流选择。

文章图片
#云计算
云计算板块-云计算基础介绍

云计算的关键技术的发展是指云计算的基础和支撑技术在不断地创新和完善,以适应云计算的需求和挑战。

文章图片
#云计算
云计算基础-虚拟化技术的发展和详细研究

虚拟化是一种利用软件技术将物理资源抽象、转换和隔离的方法,它可以提高资源的利用率、灵活性和安全性。从虚拟化技术提出到今天的快速发展,虚拟化技术有多种类型,如服务器虚拟化、网络虚拟化、存储虚拟化、桌面虚拟化等,它们都在不同的领域和场景中发挥着重要的作用。

文章图片
#云计算
到底了