logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

手把手教会你玩转本地大模型:Ollama安装+deepseek部署+Dify接入+独立调用全攻略

本期为大家介绍如何通过Ollama部署本地大模型,Dify如何接入Ollama部署的本地大模型,以及脱离Dify如何方便使用大模型。本期具体内容包括1.Ollama下载安装、2.大模型部署(以deepseek为例)、3.Dify接入本地大模型、4.通过chatbox使用本地大模型(额外内容)。如果只想本地部署大模型可以只看1、2,如果想要通过Dify接入本地大模型可以看1、2、3,如果想脱离Dif

#人工智能#AIGC#机器学习
Ollama与vLLM:大模型本地部署与高效推理全攻略!

本文对比了两种大模型部署工具:Ollama和vLLM。Ollama基于Go语言,采用"开箱即用"理念,适合个人开发者,通过容器化封装简化模型运行。vLLM基于PyTorch,创新引入PagedAttention技术解决显存效率与吞吐量瓶颈,支持张量并行和流水线并行,可横向扩展至多机多卡集群,适合生产环境。文章提供了两种工具的安装和使用示例,帮助开发者选择合适的部署方案。

文章图片
#人工智能#深度学习#transformer +1
大模型微调新玩法:DeepSeek V4来了,LLaMA-Factory Online让你轻松定制专属模型!

DeepSeek V4大模型即将发布,引发广泛关注。文章梳理了关于V4发布时间、核心技术、能力与成本、生态格局的四大焦点,揭示了其全新架构、Engram记忆模块等亮点。同时,介绍了LLaMA-Factory Online平台,该平台通过低代码可视化操作,让定制专属模型变得简单,适合各行业用户轻松实践大模型微调。

文章图片
#人工智能#产品经理#语言模型 +1
DeepSeek V4灰度上线,一举解决了论文写作中的一大难题!

这两天,我听说DeepSeek V4.0(以下简称DS4)灰度上线了,赶紧来试试!(所谓“灰度”的意思,是随机挑选一些用户,也不告诉你,目的是为了做用户测试、反馈、进一步调整。据说DS4本轮的灰度测试是向全部用户开放的,你也可以用哦!)首先,要确认一下DS的版本。我进入到DeepSeek的官网,直接问它“你是谁”?

文章图片
#人工智能#产品经理#语言模型 +1
Gemini 3.1 Pro重磅升级!大模型学习必备,助你轻松掌握前沿AI技术(收藏版)

Gemini Team发布Gemini 3.1 Pro智能升级版本,专为科学、研究和工程领域设计。该模型在核心推理能力上实现重大突破,解决复杂问题能力大幅提升。3.1 Pro通过Google AI Studio、Vertex AI、Gemini App等多种渠道上线,面向开发者、企业和消费者。它将先进推理能力转化为实用工具,助力用户解决棘手问题,推动创意项目落地。Gemini Team期待看到基于

文章图片
#人工智能#学习#产品经理 +1
AI圈内热炒的Loop Engineering到底是什么?它真的能成为第四套AI领域共识体系吗?

摘要 Loop Engineering近期成为AI领域热议概念,其核心是让AI Agent在无人值守情况下持续执行任务,通过循环机制(目标读取、状态更新、任务执行、结果验证)推进长期项目。尽管被部分人鼓吹为"第四套AI共识体系",但作者认为它更应被视为Harness Engineering中的调度子系统,而非独立方法论。 关键挑战在于如何避免Agent在长期循环中偏离初衷,陷入局部优化或目标迷失。

文章图片
#人工智能#AI
AI圈内热炒的Loop Engineering到底是什么?它真的能成为第四套AI领域共识体系吗?

摘要 Loop Engineering近期成为AI领域热议概念,其核心是让AI Agent在无人值守情况下持续执行任务,通过循环机制(目标读取、状态更新、任务执行、结果验证)推进长期项目。尽管被部分人鼓吹为"第四套AI共识体系",但作者认为它更应被视为Harness Engineering中的调度子系统,而非独立方法论。 关键挑战在于如何避免Agent在长期循环中偏离初衷,陷入局部优化或目标迷失。

文章图片
#人工智能#AI
AI圈内热炒的Loop Engineering到底是什么?它真的能成为第四套AI领域共识体系吗?

摘要 Loop Engineering近期成为AI领域热议概念,其核心是让AI Agent在无人值守情况下持续执行任务,通过循环机制(目标读取、状态更新、任务执行、结果验证)推进长期项目。尽管被部分人鼓吹为"第四套AI共识体系",但作者认为它更应被视为Harness Engineering中的调度子系统,而非独立方法论。 关键挑战在于如何避免Agent在长期循环中偏离初衷,陷入局部优化或目标迷失。

文章图片
#人工智能#AI
AI圈内热炒的Loop Engineering到底是什么?它真的能成为第四套AI领域共识体系吗?

摘要 Loop Engineering近期成为AI领域热议概念,其核心是让AI Agent在无人值守情况下持续执行任务,通过循环机制(目标读取、状态更新、任务执行、结果验证)推进长期项目。尽管被部分人鼓吹为"第四套AI共识体系",但作者认为它更应被视为Harness Engineering中的调度子系统,而非独立方法论。 关键挑战在于如何避免Agent在长期循环中偏离初衷,陷入局部优化或目标迷失。

文章图片
#人工智能#AI
AI圈内热炒的Loop Engineering到底是什么?它真的能成为第四套AI领域共识体系吗?

摘要 Loop Engineering近期成为AI领域热议概念,其核心是让AI Agent在无人值守情况下持续执行任务,通过循环机制(目标读取、状态更新、任务执行、结果验证)推进长期项目。尽管被部分人鼓吹为"第四套AI共识体系",但作者认为它更应被视为Harness Engineering中的调度子系统,而非独立方法论。 关键挑战在于如何避免Agent在长期循环中偏离初衷,陷入局部优化或目标迷失。

文章图片
#人工智能#AI
    共 1632 条
  • 1
  • 2
  • 3
  • 164
  • 请选择