logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

边缘智能:边缘计算和人工智能的深度融合

通信技术正在经历一场新的革命。第五代蜂窝无线系统(5G)的出现,带来了增强型移动宽带(eMBB)、超可靠低延迟通信(URLLC)和大规模机器类型通信(mMTC)。随着物联网(IoT)的普及,广泛分布的移动和物联网设备产生了更多的数据,可能比超大规模云数据中心产生的数据还要多。具体来说,根据爱立信的预测,45%到2024年,全球互联网数据的40ZB将由物联网设备产生。将如此庞大的数据从边缘转移到云端

文章图片
#人工智能#边缘计算
什么是 KV 缓存压缩(KV Cache Compression)?四种主流方案详解

LLM(Large Language Model,大语言模型)是一种能读文本、写文本的 AI 模型。ChatGPT、Claude、Gemini,它们全都基于 LLM。LLM 通过阅读互联网上的海量文本来学习。这个过程叫训练(training)。训练完成后,我们就可以向模型提问,它会写出答案。关于 LLM,最重要的一点是:它并不是一次性把整段回复写完,而是一次写一小块。这一小块叫 token。为了方

#人工智能
边缘计算系统逻辑架构:云、边、端协同,定义及关系

5G和物联网时代的到来,海量数据的产生与任务计算对现有网络产生极大的冲击,基于Internet的云计算虽然提供了对虚拟共享的可配置计算和存储资源的广泛访问和按需访问,是处理海量数据与计算任务的绝佳平台,但是对于5G时代的诸如在线游戏、虚拟现实和超高清视频流等高速访问超低延时的应用和海量终端互联来说,云计算是无法满足其要求的。与此同时,下一代互联网的关键特征之一是信息越来越多地在本地生成并在本地消费

#边缘计算#架构#云计算
询问ChatGPT来了解什么是边缘计算,有哪些特点,有哪些关键技术,和云计算的关系是什么?

边缘计算是一种计算架构,它将计算和存储资源移动到数据的源头或接近数据的源头,而不是将数据传输到远程的云服务器进行处理。这样做的优势在于减少了数据的传输量,提高了数据处理的效率,降低了延迟。边缘计算的应用领域包括物联网、自动驾驶、智能网路、智能城市等,其中需要处理大量实时数据,并且对延迟要求较低的场景。边缘计算的基础设施包括边缘计算节点、边缘计算网络和边缘计算平台。边缘计算工程师是一种专门负责开发和

#边缘计算#云计算#人工智能
曹建农院士:未来边缘计算:趋于分布式智能

在过去十几年中,云计算已经成为主流技术,改变了很多工业、政府和组织的IT服务的运营模式,也带来了包括商业模式和技术上的诸多革新。但是,云计算面对现在和未来的IoT的应用,也有一些不足之处。IoT起源于1999年,当时RFID技术刚刚兴起,英国一名从事智能家居产业科学家Kevin Ashton预见到,如果RFID联接到每一个物件上,或者说家里的每一个家具、电器上,就会形成一个新的网络。这样的网络可以

文章图片
#边缘计算#分布式#人工智能
边缘智能:边缘计算驱动实时深度学习

边缘协同推理具有极大的应用价值,目前,正处于快速发展期,但清晰而又统一的处理方法尚未形成,值得我们重点研究. 本文对边缘协同智能的发展历史进行了简要回顾,对推理过程中涉及到的关键技术进行了归纳整理. 通过对不同关键技术的纵向总结、适用场景分析以及技术间的对比等,重点从动态场景角度提出了边缘协同推理存在的挑战与值得发展的方向. 整体来看,边缘协同推理目前还有极大的发展空间,我们未来的研究工作重点将放

文章图片
#边缘计算#深度学习#人工智能
边缘智能:边缘计算和人工智能的深度融合

通信技术正在经历一场新的革命。第五代蜂窝无线系统(5G)的出现,带来了增强型移动宽带(eMBB)、超可靠低延迟通信(URLLC)和大规模机器类型通信(mMTC)。随着物联网(IoT)的普及,广泛分布的移动和物联网设备产生了更多的数据,可能比超大规模云数据中心产生的数据还要多。具体来说,根据爱立信的预测,45%到2024年,全球互联网数据的40ZB将由物联网设备产生。将如此庞大的数据从边缘转移到云端

文章图片
#人工智能#边缘计算
什么是 AI 智能体循环(AI Agent Loop)?它是如何工作的?

有了大局,我们再来给它一个清晰的定义。AI 智能体循环是运行时——真正把智能体跑起来的那段代码。它也叫 agentic loop,或者干脆叫 agent loop。它反复地把当前情况发给 LLM,读出 LLM 决定的动作,执行这个动作,再把结果喂回给 LLM 做下一次决策。它之所以叫循环,是因为它确实在一个环里跑。绕环一圈叫一个「步」(step)或一个「轮次」(turn)。| || 循环(Loop

#人工智能
什么是 LLM 中的提示注入(Prompt Injection)?我们该如何防御?

在跳进提示注入之前,我们得先知道什么是大语言模型。大语言模型就是一个读文本、预测下一个词的模型。说白了,它是一台非常擅长猜词的机器。我们给它一些词,它猜下一个词是什么;然后把这个词接到文本后面,再猜下一个。它就这样一个词一个词地猜下去,直到把完整答案写出来。假设我们输入「天空是」。模型猜「蓝的」。现在文本变成「天空是蓝的」。模型重新读一遍全部内容,再猜下一个词。ChatGPT 背后那个模型写出一段

#人工智能
什么是 LLM 中的函数调用(Function Calling)?它是如何工作的?

函数调用(Function Calling)是一种让 LLM 使用外部工具、API 和函数来把事情办成的方式。它也叫工具调用(tool calling),两个名字说的是同一件事。在继续之前,我们先确认几个词的含义。LLM(大语言模型)是 ChatGPT 这类工具背后的模型。它读文本、生成文本,这就是它自己唯一能做的事。函数(function)是一小段只做一件事的代码。比如,一个函数可以获取今天的天

#人工智能
    共 51 条
  • 1
  • 2
  • 3
  • 6
  • 请选择