logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

大模型的部署与调用

在ApiFox配置参数,使用post请求方式,输入url,-d后面的就是我们需要写的请求体json格式内容,里面的content可以自行修改,就是你想问的问题。:下载Ollama,在官网选择你想使用的模型和版本,点击模型的名称,来到该模型的详情页面,并赋值右上角的命令。百炼平台对于大模型API的使用,给出了详细的参考文档,其中就包括http方式的调用,大家可以点击目标模型下方的API参考,查看详细

#语言模型#java
docker(一)安装与快速入门

Docker服务部署应用时,首先要去搜索并下载应用对应的镜像,然后根据镜像创建并允许容器,应用就部署完成了。因此它在运行时就有自己独立的环境,就可以跨系统运行,也不需要手动再次配置环境了。容器内端口往往是由容器内的进程决定,例如MySQL进程默认端口是3306,因此容器内端口一定是3306;,示例中就是将宿主机的3306映射到容器内的3306端口,当你访问宿主机的端口,就会映射到容器内对应的接口。

#docker#容器#运维
docker(二)docker基础

自定义镜像本质就是依次准备好程序运行的基础环境、依赖、应用本身、运行配置等文件,并且打包而成。举个例子,我们要从0部署一个Java应用,大概流程是这样:准备一个linux服务(CentOS或者Ubuntu均可)安装并配置JDK上传Jar包运行jar包那因此,我们打包镜像也是分成这么几步:准备Linux运行环境(java项目并不需要完整的操作系统,仅仅是基础运行环境即可)安装并配置JDK拷贝jar包

#docker#容器#运维
docker(三)具体项目的部署

1.在本地创建两个配置文件(具体可以看springboot那一篇的多配置文件),mysql配置的时候不要写死,而是从生产/本地环境去读取参数。而稍微复杂的项目,其中还会有各种各样的其它中间件,需要部署的东西远不止3个。它允许用户通过一个单独的 docker-compose.yml 模板文件(YAML 格式)来定义一组相关联的应用容器。project就是当前compose文件中设置的多个servic

#docker#容器#运维
JVM(二)——类的加载机制

通过类的全限定名找到对应的.class二进制字节流的代码块。启动类,扩展类,应用程序类,自定义当一个类加载器收到加载类的请求的额时候,不会立即加载类,而是委派给他的父类加载器,父类加载器又会委派给他的父类加载器,直到找到启动类加载器,如果父类加载器可以加载到类就直接返回,否则再自己加载。类的唯一性和安全性防止类复用,减少内存消耗Java被编译之后会生成字节码文件,jvm就是把字节码文件转换为系统能

#java#jvm
Langchain4j(一)会话功能

在CommonConfig类中,构建MessageWindowChatMemory对象,并注入到IOC容器中。构建的时候我们可以指定该对象中最大的会话存储数量,一般设置20就足够了。@Bean.maxMessages(20)//最大保存的会话记录数量.build();LangChain4j中提供了一个类,将来LangChain4j如果从容器中没有找到指定id的ChatMemory对象,就会调用Ch

#java#后端#语言模型
Langchain4j(三)Tools工具

这里需要注意的是由于在一次任务的处理过程中可能需要根据顺序调用多个函数,所以当大模型接收到AI应用发送的数据继续拆解任务,如果发现还需要调用其他的函数,则会重复4.1~4.4这几个步骤,直到无需调用函数,最终把生成的结果响应该AI应用,并由AI应用发送给用户。在咱们的AI志愿填报顾问中,将来要做这么一个功能,每次回答完用户的问题后,都会在答案的最后附上这么一句话: 志愿填报需要考虑的因素有很多,如

#java#后端#语言模型
java并发编程(一)ThreadLocal

使用InheritableThreadLocal创建实例的话,子线程能输出主线程的值,但是如果使用ThreadLocal创建实例的话,子线程不能输出主线程的值。ThreadLocalMap是一个定制化的Hashmap,他的键是ThreadLocal 实例,值是你set后面的值。第一个线程remove之后再get,输出的是null,说明第二个线程设置的值访问不到,不是共享的。为thread 线程,而

#java#开发语言
java并发编程(三)CAS

锁在并发处理中占据了一席之地,但是使用锁有一个不好的地方,就是当一个线程没有获取到锁时会被阻塞挂起,这会导致线程上下文的切换和重新调度开销。Java提供了非阻塞的volatile关键字来解决共享变量的可见性问题,这在一定程度上弥补了锁带来的开销问题,但是volatile只能保证共享变量的可见性,不能解决读一改一写等的原子性问题。CAS即CompareandSwap,其是JDK提供的非阻塞原子性操作

#java#开发语言
    共 31 条
  • 1
  • 2
  • 3
  • 4
  • 请选择