logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

消息队列之Kafka(一)搭建服务

最后:Kafka集群中的这些Broker信息,包括Partiton的选举信息,都会保存在额外部署的Zookeper集群当中,这样,kaka集群就不会因为某一些Broker服务崩溃而中断。Kaka是面向海量消息设计的,一个Topic下的消息会非常多,单机服务很难存得下来。1、Kaika设计需要支持海量的数据,而这样庞大的数据量,一个broker是存不下的。但是,在实际工作中使用时,单机搭建的Kafk

#kafka#分布式
java并发编程(六)CountDownLatch和回环屏障CyclicBarrier

使用线程池来管理线程时一般都是直接添加Runable到线程池,这时候就没有办法再调用线程的join方法了,就是说countDownLatch相比join方法让我们对线程同步有更灵活的控制。如果 state!AQS 收到 true 后,调用 doReleaseShared() 唤醒同步队列中所有因为 await() 而阻塞的线程。await() 调用 AQS 的 acquireSharedInter

#java#开发语言
langchain4j(四)MCP调用工具

如果需要让ChatModel或AI service运行由MCP服务器提供的工具,则需要创建一个MCP tool provider。一个 ToolProvider 只包一个 MCP,所以如果你有多个MCP,就需要创建多个ToolProvider。如果有多个工具,需要使用AiServices.builder,所以原来的@AiServices注解就不需要了。MCP是在Function Calling基础

#java#后端#语言模型
java并发编程(一)ThreadLocal

使用InheritableThreadLocal创建实例的话,子线程能输出主线程的值,但是如果使用ThreadLocal创建实例的话,子线程不能输出主线程的值。ThreadLocalMap是一个定制化的Hashmap,他的键是ThreadLocal 实例,值是你set后面的值。第一个线程remove之后再get,输出的是null,说明第二个线程设置的值访问不到,不是共享的。为thread 线程,而

#java#开发语言
Langchain4j(三)Tools工具

这里需要注意的是由于在一次任务的处理过程中可能需要根据顺序调用多个函数,所以当大模型接收到AI应用发送的数据继续拆解任务,如果发现还需要调用其他的函数,则会重复4.1~4.4这几个步骤,直到无需调用函数,最终把生成的结果响应该AI应用,并由AI应用发送给用户。在咱们的AI志愿填报顾问中,将来要做这么一个功能,每次回答完用户的问题后,都会在答案的最后附上这么一句话: 志愿填报需要考虑的因素有很多,如

#java#后端#语言模型
Langchain4j(一)会话功能

在CommonConfig类中,构建MessageWindowChatMemory对象,并注入到IOC容器中。构建的时候我们可以指定该对象中最大的会话存储数量,一般设置20就足够了。@Bean.maxMessages(20)//最大保存的会话记录数量.build();LangChain4j中提供了一个类,将来LangChain4j如果从容器中没有找到指定id的ChatMemory对象,就会调用Ch

#java#后端#语言模型
大模型的部署与调用

在ApiFox配置参数,使用post请求方式,输入url,-d后面的就是我们需要写的请求体json格式内容,里面的content可以自行修改,就是你想问的问题。:下载Ollama,在官网选择你想使用的模型和版本,点击模型的名称,来到该模型的详情页面,并赋值右上角的命令。百炼平台对于大模型API的使用,给出了详细的参考文档,其中就包括http方式的调用,大家可以点击目标模型下方的API参考,查看详细

#语言模型#java
到底了