我现在是一个双非二本的大二下的学生，加了一个弄人工智能的实验室，但感觉没有学到什么，也看了吴恩达的机器学习，但没怎么用过，已经忘的差不多了。

现在只会一些rag、moe、lora，不知道坚持下去能不能找到工作（不考研），有点想转Python后端了，不知道会不会太晚了。

想问一下各位大佬，我是继续坚持还是赶快转其他方向好呢？如果继续坚持的话该去学什么呢？

做向量的RAG肯定找不到工作，不为什么，就是过时了，Agent？那是人工智能编程的事。

如果你能把RAG+Agent结合，那肯定能找到工作!
如何不用向量数据库也能做RAG?而是要用Agentic方法搞定了百万token文档检索......

这大把公司要的，因为你都能自己出来单干了!!!!
就说我之前调试一个法律文档检索系统。
客户的合同有800多页，切记800多页!
传统RAG的向量检索总是找不到关键条款--明明就在第523页的免责条款里，FAISS+就是检索不出来。
搞了半天才发现，是文档分块把一个完整的条款切成了三段，向量相似度直接拉胯了。
这让我想起早前OpenAI+悄悄更新的一个技术指南--他们居然说可以不用向量数据库做RAG。
刚看到的时候我是懵的，这不是反直觉吗?
但仔细研究后发现，还真别说，这个叫Agentic RAG的方法确实有点东西。并且现在很多大公司都是追求高质量，Agent+RAG算是个新东西，主要是效果好尤其是专业领域，像法律、医疗、科技等等，全都需要..... 

RAG为什么不好?
去年做一个医疗知识库项目时，光是调试embedding模型就花了两周。你能想象吗?同一个问题”糖尿病能吃水果吗”，用不同的embedding模型，检索出来的内容完全不一样:
text-embedding-ada-002:检索出糖尿病的定义(???)BGE-large:找到了水果的营养成分(额...)
E5-large:终于找到了糖尿病饮食指南(总算靠谱了)
更郁闷的是分块策略。我试过:
按段落分:上下文断裂严重
按固定token分:经常把一句话切成两半
按语义分:计算量大到怀疑人生
说起来都是泪。有次处理一份技术规范文档，里面有个重要的表格横跨了3页。传统分块直接把表格切碎了，用户问”性能指标是多少”，系统返回了个表头...客户差点没把我骂死。

1-不要搞RAG，要搞就搞Agentic RAG
核心思路(其实很朴素)
之前GPT-4-turbo*支持128K上下文后，我突然意识到一个问题:既然模型能一次看完整本《哈利波特》，为什么还要切块?
Agentic RAG的思路就像人类看书:
1.先快速翻一遍，知道大概讲什么
2.找到相关章节
3.仔细读那几页
4.得出答案
听起来简单?实现起来可不简单。

2-注意力机制的"隐形嵌入”

这里必须得说个技术细节(敲黑板)。很多人说AgenticRAG是”无嵌入”的，这其实是个误解。
Transformer+的自注意力机制本质上就是在做动态嵌入:
Attention(Q,K, V)= softmax
Q、K、V这三个矩阵，不就是在为每个token生成上下文相关的表示吗?只不过这个”嵌入”是动态的、实时计算的，而不是预先存好的静态向量。
老公式了，看过的同学过一下就行.....
顺便吐槽一下，当初读AttentionIsAllYou Need+这篇论文时，看到这个公式愣了半天。
后来debug transformer代码才真正理解说白了就是让模型自己决定该关注哪些词。
接下来，你学到了，也能开干，也不愁没人要你!