logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

【大模型系列】使用fastapi为langchain应用快速对外提供restful api

浏览器访问:http://localhost:8000/llm_chain/playground/可进入api调试界面。点击start,调用接口调试。以下是一个简单的例子。执行main方法启动。

文章图片
#fastapi#restful
【大模型系列】使用Hugging Face 提供的一个开源库Transformers下载模型并在本地加载运行

接上一篇,以下大概介绍通过transfers api从huggingface下载和本地运行模型的流程;

文章图片
【大模型系列】使用Hugging Face 提供的一个开源库Transformers下载模型并在本地加载运行

接上一篇,以下大概介绍通过transfers api从huggingface下载和本地运行模型的流程;

文章图片
【大模型系列】开发工具Cursor使用配置及备忘

Cursor 是一个基于Visual Studio Code(VS Code)技术构建的高级代码编辑器,专为提高编程效率并更深度地整合 AI 功能而设计;由于个人对vscode也是比较陌生,最近切换到这个工具最开始也是很不适应,不过时间长了还好逐步开始适应了新的工具;最近一段时间大模型开发工具cursor是比较火爆的,其提供的一个比较有价值的特性就是其ai辅助功能,其内部集成了若干大模型 提供免费

文章图片
【大模型系列】使用Hugging Face 提供的一个开源库Transformers下载模型并在本地加载运行

接上一篇,以下大概介绍通过transfers api从huggingface下载和本地运行模型的流程;

文章图片
【大模型系列】开发工具Cursor使用配置及备忘

Cursor 是一个基于Visual Studio Code(VS Code)技术构建的高级代码编辑器,专为提高编程效率并更深度地整合 AI 功能而设计;由于个人对vscode也是比较陌生,最近切换到这个工具最开始也是很不适应,不过时间长了还好逐步开始适应了新的工具;最近一段时间大模型开发工具cursor是比较火爆的,其提供的一个比较有价值的特性就是其ai辅助功能,其内部集成了若干大模型 提供免费

文章图片
【大模型系列】开发工具Cursor使用配置及备忘

Cursor 是一个基于Visual Studio Code(VS Code)技术构建的高级代码编辑器,专为提高编程效率并更深度地整合 AI 功能而设计;由于个人对vscode也是比较陌生,最近切换到这个工具最开始也是很不适应,不过时间长了还好逐步开始适应了新的工具;最近一段时间大模型开发工具cursor是比较火爆的,其提供的一个比较有价值的特性就是其ai辅助功能,其内部集成了若干大模型 提供免费

文章图片
【大模型系列】llama.cpp本地运行大模型

上一篇链接:我们讲了ollama本地运行大模型,这里我们介绍另一种本地运行大模型的方法:llamacpp。

文章图片
【大模型系列】llama.cpp本地运行大模型

上一篇链接:我们讲了ollama本地运行大模型,这里我们介绍另一种本地运行大模型的方法:llamacpp。

文章图片
【大模型系列】入门常识备忘

1、huggingface 网址 https://huggingface.co/2、魔塔社区 网址:https://modelscope.cn/home。

文章图片
    共 24 条
  • 1
  • 2
  • 3
  • 请选择