logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

LLM大模型部署实战指南:Ollama简化流程,OpenLLM灵活部署,LocalAI本地优化,Dify赋能应用开发

Ollama 是一个开源框架,专为在本地机器上便捷部署和运行大型语言模型(LLM)而设计。以下是其主要特点和功能概述:简化部署:Ollama 目标在于简化在 Docker 容器中部署大型语言模型的过程,使得非专业用户也能方便地管理和运行这些复杂的模型。轻量级与可扩展:作为轻量级框架,Ollama 保持了较小的资源占用,同时具备良好的可扩展性,允许用户根据需要调整配置以适应不同规模的项目和硬件条件。

文章图片
#人工智能#运维#安全 +2
前端转 AI 的攻防地图:三个优势区尽快占住,两个陷阱区绕着走

区域属于谁怎么占住流式输出与多轮体验前端主场SSE、EventSource、打字机效果、上下文截断、token 控制Prompt 工程懂前端的转型者结构化提示词、Few-shot、格式约束、稳定返回 JSON产品化与工程化做过完整产品的人三件套补基础,做到鉴权、限流、Docker、部署死磕算法与训练弯路区绕开,不投入把 Demo 当产品弯路区用极简版 ChatGPT 补齐四个缺口。

#前端#人工智能
前端转 AI 的攻防地图:三个优势区尽快占住,两个陷阱区绕着走

区域属于谁怎么占住流式输出与多轮体验前端主场SSE、EventSource、打字机效果、上下文截断、token 控制Prompt 工程懂前端的转型者结构化提示词、Few-shot、格式约束、稳定返回 JSON产品化与工程化做过完整产品的人三件套补基础,做到鉴权、限流、Docker、部署死磕算法与训练弯路区绕开,不投入把 Demo 当产品弯路区用极简版 ChatGPT 补齐四个缺口。

#前端#人工智能
大模型与具身智能技术深度融合 人形机器人商业化落地可期

图①特斯拉人形机器人Optimus 图②穹彻智能正在演示基于力控机器人的衣物折叠场景 图③穹彻智能正在演示基于力控机器人的黄瓜削皮场景 图④“十八金刚”正在向观众挥手致意 李乔宇/摄“去年我们尚无法将真人大小的机器人带到现场,今年各个方面都更加成熟了。”在不久前举办的2024世界人工智能大会暨人工智能全球治理高级别会议(以下简称“WAIC 2024”)上,有人形机器人产业从业者对《证券日报》记者表

文章图片
#机器人#搜索引擎#职场和发展 +2
AI大模型让机器人集体“进化”,具身智能时代要来了?

从国外的Figure AI、IX,到国内的中控技术、均普智能、优必选、普渡机器人、浪潮机器人等,纷纷公布了在自研大模型、接入DeepSeek大模型以及具身智能机器人研究方面的重要进展,一场激烈的具身智能机器人竞赛已然拉开帷幕。

文章图片
#人工智能#机器人#运维 +1
大模型部署主流工具对比:Ollama,vLLM,llama.cpp,LM Studio

Ollama是一个开源的本地运行和管理大语言模型(LLM)的工具,旨在帮助用户快速在本地设备上部署和管理大模型,如Llama 2和DeepSeek。通过Ollama,用户可以在不依赖云端的情况下实现智能对话、文本生成等功能,保护数据隐私并降低对硬件的要求。Ollama提供了一个直观且易于使用的命令行界面(CLI),使得即使是非技术人员也能轻松安装和使用。此外,它还支持通过HTTP接口和Web UI

文章图片
#人工智能#产品经理
AI 产品经理必备能力清单:从数据 / 算法 / 算力到文档交付,附具身智能实战案例

AI 产品经理必备能力清单:从数据 / 算法 / 算力到文档交付,附具身智能实战案例

文章图片
#人工智能#产品经理#算法 +1
【建议收藏】大模型部署全解析:基础概念到深度优化,面试通关必备

文章全面介绍大模型部署的核心知识,涵盖部署流程、模型量化、批处理技术、计算图转换、ONNX应用、GPU优化、推理框架选择、K8s部署策略及性能监控方法。从基础概念到深度实践,详细解析KV Cache、PagedAttention等高级优化技术,为面试和实际部署提供全方位指导,帮助掌握延迟优化、内存管理和性能评估等关键技能。

文章图片
#面试#职场和发展#人工智能 +2
【斩获高薪Offer】AI大模型岗位面试核心——模型部署实战指南

【斩获高薪Offer】AI大模型岗位面试核心——模型部署实战指南

文章图片
#人工智能#面试#职场和发展 +3
    共 2662 条
  • 1
  • 2
  • 3
  • 267
  • 请选择