logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

dify 专题01 基础环境搭建

这是一篇如何用wsl2 搭建 dify vscode单步调试步骤的文章,从0开始一步一步图文并茂的讲解具体步骤

文章图片
#vscode#flask#pip +2
模型压缩技术:模型剪枝、量化与蒸馏原理

年来,神经模型在几乎所有领域都取得了成功,包括极端复杂的问题。然而,这些模型体积巨大,有数百万(甚至数十亿)个参数,因此不能部署在边缘设备上。知识蒸馏指的是模型压缩的思想,通过一步一步地使用一个较大的已经训练好的网络去教导一个较小的网络确切地去做什么。“软标签”指的是大网络在每一层卷积后输出的feature map。然后,通过尝试复制大网络在每一层的输出(不仅仅是最终的损失),小网络被训练以学习大

文章图片
#剪枝#算法#机器学习 +1
AutoGen基本概念与使用实操

智能体Agent 不是模型,严格意义上Agent属于强化学习中的一个技术,可以认为是一个代理。Agent解决的问题是最优规划问题,简单讲是实现价值最大化,2024年前是直接使用大模型,会有一个问题,直接问大模型,大模型返回的结果不一定契合我们的需求,所以需要多次调用大模型来筛选结果,现在我们把问题给到Agent,Agent根据我们的需求和大模型交互,大模型的结果符合我们的要求是 Agent返回Au

文章图片
#人工智能
langchain使用

LangChain Expression Language(LCEL)是一种声明式语言,可轻松组合不同的调用顺序构成 Chain。LCEL 自创立之初就被设计为能够支持将原型投入生产环境,无需代码更改,从最简单的“提示+LLM”链到最复杂的链(已有用户成功在生产环境中运行包含数百个步骤的 LCEL Chain)。LCEL 的核心特点是能够将多个简单的操作组合成复杂的任务, 例如,可以将文本生成、问

文章图片
#语言模型#nlp
10分钟Spring AI 从入门到放弃

Spring AI 是 AI 工程的应用框架,其目标是将 Spring 生态系统设计原则(如可移植性和模块化设计)应用于 AI 领域,并将 POJOs 作为应用程序的构建块推广到 AI 领域。Spring AI 的核心是解决 AI 集成的基本挑战:将企业数据和API与AI 模型连接起来。换句话说,Spring AI 和 可以认为和 python中的langchain是一个 维度的框架,用于 连接

文章图片
#spring#人工智能#java
到底了