logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

大模型部署的问题,以及企业级大模型的分布式部署方案

在学习大模型的过程中,很多人都知道大模型的训练与部署,但网上大部分资料介绍的都是单机训练和部署。

文章图片
#分布式#人工智能#架构 +3
从具身智能再谈强化学习,为什么需要强化学习,以及强化学习的应用场景

以上是个人对强化学习的一些理解和学习的过程记录,可能是对的,也可能是错的,或许随着对大模型技术的深入,某一天会发现现在对强化学习的理解还是台浅显了。

文章图片
#数据库#python#人工智能 +2
AI模型部署,从未如此简单:探索llamafile的魔力

是一种创新的解决方案,它允许用户通过单一的文件来部署和运行大型语言模型(LLM)。这种文件包含了模型的所有权重和必要的运行时环境,使得用户无需进行繁琐的环境配置和依赖安装。

文章图片
#人工智能#android#网络 +2
万亿增长空间!AI 边缘计算发展趋势及技术研究报告 2024

通过内置的数据和系统保护措施,如加密和访问控制,确保数据的安全性和在出现问题时的快速恢复。当前,边缘计算的标准化和生态系统建设成为行业发展的重点,大约四分之一的企业将可持续发展和 ESG 指标跟踪作为边缘和物联网计划的一项驱动因素,边缘计算被看作是提高效率、优化流程的重要技术手段,因此,企业可持续发展和边缘的结合正在成为企业发展的重要议题。成熟,边缘计算的发展理念也日渐明晰,即从数据产生的位置进行

文章图片
#人工智能#边缘计算#大数据 +3
大模型部署的主流技术有哪些?

Ollama 是一个可在用户本地LLM部署的开源平台,支持Linux、Windows等多平台部署,如果基于 Docker 安装 Ollama 可以简化后续的配置步骤。Ollama支持 GPU加速,可显著提升性能。例如,在华为云的ECS上部署时,可以使用带有N卡的GPU加速型实例来运行Ollama容器。Ollama提供了一个直观且易于使用的命令行界面(CLI),使得即使是非技术人员也能轻松安装和使用

文章图片
#人工智能#大数据#机器学习 +2
谷歌具身智能VLA大模型 —— Gemini Robotics : 将人工智能带入到物理世界

真正实用的机器人需要能够理解周围的物理世界,并以可靠且安全的方式与之交互。也就是说,基于物理实体的AI智能体必须具备鲁棒的人类级具身推理能力,即包含在物理具身世界中操作和运行所需的基础概念的世界知识体系。

文章图片
#人工智能#bert#深度学习 +2
NUS 提出 SkillGraph:让多模态多智能体边协作边进化

本文提出 SkillGraph,将动态通信拓扑与自进化 Skill Bank 闭环耦合,让 VMAS 根据图像、问题和当前技能自动组织协作。在四个多模态基准、五种 MAS 结构和四类 VLM 上均稳定提升,最高平均提升约 3.0%。

文章图片
#jvm#java#开发语言 +2
Agent Harness(智能体脚手架)完全指南

本文将深入剖析前沿AI公司/AI工具: Anthropic、OpenAI、Perplexity 和 LangChain 到底在构建什么。涵盖编排循环(Orchestration Loop)、工具、记忆、上下文管理,以及将无状态 LLM 转化为强大智能体的一切核心要素。

文章图片
#人工智能#知识图谱
AI 智能体评估的六个关键指标

一个用 3 次工具调用完成任务的智能体,与一个需要 9 次调用(包含重试、回溯、重复调用同一 API)的智能体,在任务完成度上都可能得到 1.0 的分数。

文章图片
#人工智能#状态模式#github +2
SkillNet:让智能体“知技·善任“的大规模技能知识库

当前AI智能体能灵活调用工具、规划复杂任务,但面临一个核心痛点:**缺乏系统化的技能沉淀与共享机制**。同类问题反复出现,智能体却要在不同环境中从零试错、重复踩坑。

文章图片
#php#开发语言#人工智能 +3
    共 2702 条
  • 1
  • 2
  • 3
  • 271
  • 请选择