logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

【橘子分布式】Thrift RPC(编程篇)

之前我们研究了一下thrift的一些知识,我们知道他是一个rpc框架,他作为rpc自然是提供了客户端到服务端的访问以及两端数据传输的消息序列化,消息的协议解析和传输,所以我们今天就来了解一下他是如何实现这些功能,并且如何在实际代码中使用。我们需要搭建环境。

#分布式#rpc#网络协议
【橘子分布式】Thrift RPC(理论篇)

1:i32 id,3:i32 age1、举一个struct的例子,如果你想生成一个User类型的代码,就要这样声明。里面有序号,类型,属性名称。2、struct的类不能继承,成员与成员之间的分割可以是逗号,也可以是分号。3、结构体里面的每一个字段都要进行编号,从1开始。4、结构是变量类型,变量名。5、还有一种类型,叫做optionl,就是可选类型,就是可以为空的类型,就是在序列化的时候是可选的,没

#分布式#rpc#网络协议
【橘子大模型】使用streamlit来构建自己的聊天机器人(上)

我们之前已经掌握了很多关于和LLM交互的操作了,现在我们需要在这些操作上面构建自己的机器人,进而在客户端操作服务。我们需要使用的工具是你就把他理解为python的uniapp吧。

#python
关于springboot对接chatglm3-6b大模型的尝试

我们这只是其中一种模型的对接,其实别的也都差不多,都是基于流可以用http来操作,你可以在你的项目中建立一个AI中台,来对接各种模型,给别的服务提供调用。只是需要看明白每种模型的参数。

#spring boot#后端#语言模型
【橘子大模型】关于agent

我们此时其实已经完成了简单agent的制作,我们同时看到了langchain的强大,还有很多的功能等待我们学习。接下来我们就来整合所有的知识,来完成一个rag+agent系统。

#python
【橘子大模型】Runnable和Chain以及串行和并行

前面我们实现了一些关于如何和大模型进行交互的操作。那么我们此时来回顾一下我们当前进行的结构。我们已经很清楚这些操作的具体含义了,所以我这里就不在多介绍了。我们来看其中的几个点1、用户那边就是客户,没啥说的。2、langchain,这个是中间的框架。3、template,关键就在这里,我们大部分业务编码其实都在这里到目前为止。我们使用各种template来处理一些业务。我们构建起来一个模板之后,关键

#python
Loom开篇:Java 虚拟机的协程和延续

Project Loom 的使命是更轻松地编写、调试、分析和维护满足当今要求的并发应用程序。线程从 Java 的第一天开始就是一种自然而方便的并发结构(抛开线程之间通信的单独问题),因为它们当前作为操作系统内核线程的实现不足以满足现代需求,所以它正在被一些你不太容易理解的抽象模型所取代,并且浪费了在云中特别有价值的计算资源。(译者:指的是现有的线程模型是和操作系统线程一对一绑定的,会阻塞运行,你需

#java#开发语言
【橘子大模型】使用streamlit来构建自己的聊天机器人(上)

我们之前已经掌握了很多关于和LLM交互的操作了,现在我们需要在这些操作上面构建自己的机器人,进而在客户端操作服务。我们需要使用的工具是你就把他理解为python的uniapp吧。

#python
【橘子大模型】ollama启动

我们来搭建一个基于langchain的本地LLM,并且实现一个rag的检索增强器。原谅我就是这么单刀直入,没有废话。至于那些工具我就不多介绍了,网上说了很多了,我们直接进入操作。

#python
【橘子大模型】关于PromptTemplate

在大模型应用中有一个概念叫做Prompt,我们来看一下百度百科对Prompt的定义。prompt中文为“提示词”。在AI大模型中,Prompt的作用主要是给AI模型提示输入信息的上下文和输入模型的参数信息。所以我们可以知道Prompt其实就是你问大模型的输入语言,也就是我们作为用户和大模型交互的输入。

#python
    共 21 条
  • 1
  • 2
  • 3
  • 请选择