logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

LangChain开发核心技巧,动态切换AI大模型参数

若需灵活调整参数,我们可通过with_config()方法,在完整保留原有基础配置的前提下,快速修改目标参数并生成全新的模型实例;在 AI 大模型的参数配置体系中,90% 的常规业务场景,仅需配置model、temperature和max_tokens三个核心参数,即可完成模型的基础调用配置。以下为.env 环境配置文件的内容,记得必将其中的 API_KEY 占位值,替换为您自行在对应平台申请的有

#microsoft
RAG入门-让大模型学会“开卷考试“

不要让模型死记硬背,而是让它"现场查资料"!类比对比类型比喻特点传统LLM闭卷考试只能依赖记忆,可能忘、可能错RAG开卷考试可以查资料,答案有据可查对比传统LLMRAG增强LLM知识来源模型参数外部知识库更新方式重新训练更新数据库答案可信度可能幻觉有据可查适用场景通用知识专业/实时知识。

#人工智能#机器学习#算法
PyTorch KernelAgent 源码解读 ---(3)--- orchestrator

动词选择差异Rewrite:重新编写Refactor:重构优化Decompose:分解拆分Split:分离术语差异shapes vs tensor shapes vs shape contracts:不同层次的抽象documentation vs specification vs stating:不同的明确程度语义细微差别每个变体虽然传达相同的核心意图,但在措辞上略有不同这些差异可能影响 LLM

#pytorch#人工智能#python
SpringBoot WebSocket 深度技术全解(纯通用无业务、生产落地完整版)

WebSocket 是基于 TCP 的应用层协议,遵循 RFC6455 规范,Java 统一标准为 JSR-356,Tomcat 7.0+、Undertow、Jetty 全部原生支持。封装静态工具 sendToUser(Long uid, Object data),业务层、定时任务、离线消息统一调用,统一处理空Session、连接关闭、序列化异常,消除重复代码。// ===============

#前端
学无止境--linux 注册虚拟网卡将SDK(厂商)上送至CPU的报文注入协议栈

之类的驱动,虽然SDK有将进入该部分的报文上送至CPU的API,但是无法注入协议栈,也就无法与CPU通信;想要解决该问题,要么就自己开发DSA驱动,要么就需要注册一个虚拟网络设备(无对应的物理网卡)将报文注入协议栈,并在协议栈发出应答报文时发送到SDK,让SDK通过面板口发送出去。注:才疏学浅,能力有限,如有描述不当,敬请谅解,欢迎各位大神指正。以下是流程以及代码,需要确保有/dev/net/tu

#linux#网络#运维
AI Agent 30天速成|Day4 笔记

一、核心理论教学笔记调用计算器计算125+36调用计算器计算结果×8RAG检索RAG相关知识整合全部结果输出总结1.2 两大主流推理框架(面试必考)(1)ReAct 推理+行动框架(最简单、入门首选)核心逻辑:Thought→Action→Observation循环Thought:模型思考当前需要做什么、下一步执行什么工具/检索Action:输出标准化工具调用/检索指令Observation:拿到

#人工智能
AI Agent 30天速成|Day4 笔记

一、核心理论教学笔记调用计算器计算125+36调用计算器计算结果×8RAG检索RAG相关知识整合全部结果输出总结1.2 两大主流推理框架(面试必考)(1)ReAct 推理+行动框架(最简单、入门首选)核心逻辑:Thought→Action→Observation循环Thought:模型思考当前需要做什么、下一步执行什么工具/检索Action:输出标准化工具调用/检索指令Observation:拿到

#人工智能
有了大模型为什么还要引入RAG

一、什么是RAGRAG的全称是Retrieval-augmented Generation,意思是检索增强生成,它是一种结合检索和生成技术的模型。RAG通过引用外部知识库的信息来生成回答,具有较强的可解释性和定制能力,常用于客服系统、智能助手等问答任务。虽然大模型很智能了,但它有两个短板:1、知识有截止日期,不懂新知识因为大模型训练到某一天就停止学习,比如模型训练数据截止到2025年,那么2026

#人工智能#pytorch
PREEMPT_RT 技术实现:rt_mutex

在实时操作系统(RTOS)中,优先级反转是指高优先级任务被低优先级任务间接阻塞,使得高优先级任务不能按照其优先级及时执行,而低优先级任务却能优先运行的异常现象。这种现象违背了 RTOS 正常的基于优先级的调度机制。

#java#数据库#开发语言
到底了