这两年大模型岗位有多火不用我多说了。说实话我一个代码写了两年、之前一直在做业务系统的普通程序员去年底开始投大模型与RAG方向前后准备了一个半月面试了十来家拿了几个offer过程踩了不少坑也摸清了这类岗位面试的路数。这篇面经就是把我实际遇到的、被反复问到的、以及准备过程中总结的东西原原本本分享出来覆盖简历、八股、项目深挖、手撕代码、系统设计、HR面全流程帮你少走弯路。如果你是2到3年经验的后端、客户端或者测试转AI应用方向又或者已经在做RAG但总觉得自己底子薄、被问住这篇文章值得收藏。我不讲虚的所有内容都是按面试官真实提问逻辑来拆解每一步都有可落地的准备方法。1. 先说清楚大模型与RAG岗位到底在面什么很多人的误区是面大模型岗位就要把Transformer背得滚瓜烂熟。实际上对于2年经验这个级别面试官考察的逻辑更接近“你会不会用懂不懂为什么”而不是“你能默写多少公式”。1.1 岗位画像与考察金字塔我面下来这类岗位的考察点可以分成四层。第一层是工程基础。比如Python熟练度、数据结构、Linux操作、数据库和缓存以及基本的系统设计能力。这一层和你面普通后端没有本质区别占比大概两成。第二层是LLM基础认知。包括Transformer结构、注意力机制、训练流程、推理优化、上下文窗口这些常识性内容。这一层占比大概三成不要求你从零训练一个模型但你要能说清楚“为什么”和“怎么用”。第三层是RAG工程落地能力。这是大模型应用方向面试的重头戏占比四成以上。从文档加载、切分、向量化到召回、重排、提示词组装、评估面试官会沿着一条完整的RAG链路逐个环节深挖每个环节都有“这样做解决了什么问题、代价是什么、换一种方案行不行”的追问。第四层是综合潜力。比如对行业趋势的理解、面对开放性问题的思考方式、对Agent这类新方向的敏感度。这一层占比一成但往往是区分普通候选人和加分候选人的关键。1.2 2年经验程序员的优劣势分析正视自己的位置很重要。两年经验的程序员最大的劣势是没有大规模模型训练或部署经验如果简历全是CRUD确实容易被刷。最大的优势是企业招这个级别的人要的本来就不是LLM研究员而是“能快速上手做AI应用、能补工程短板的干活的人”。这是为什么RAG方向成了2年经验程序员的最佳切入点。RAG本质上是“检索系统 大模型调度 业务逻辑”的组合和传统后端工程的亲缘性很强。你做过搜索引擎、做过推荐系统、做过知识库或者做过异步任务处理这些经验都能平移过来。我自己的做法是在简历上把所有经历往“数据处理”“检索决策”“稳定性保障”这几个方向靠而不是硬说自己搞过训练。后面我会细说简历怎么改。2. 简历与项目没有大模型经历怎么让面试官眼前一亮简历关是很多人死掉的地方。我一开始也犯过傻写了个“精通大模型应用开发”的自我评价现在想起来脸红。面试官根本不看自我评价只看你能不能拿出实际内容来证明。2.1 从传统开发中提炼RAG相关经验如果你做过以下任何一类需求都可以改写成与RAG相关的经历第一搜索或推荐类项目。做过Elasticsearch分词、排序调优、多路召回合并的可以直接说成“熟悉检索逻辑理解相关性排序”。这类经验在RAG的召回和重排阶段完全适用。第二知识库或内容管理类项目。做过权限体系、标签系统、文档流转的可以重点讲你对“非结构化数据组织”的理解。RAG第一步文档加载与解析就是这类活。第三客服工单或对话系统。哪怕是个简单的关键词自动回复也可以说明你对“用户意图识别”和“对话管理”有认知这是RAG多轮问答的重要基础。第四数据处理Pipeline。写过爬虫、做过ETL、处理过脏数据的人在文档清洗与切分环节非常有优势。这一点往往被人忽视——RAG系统一半的问题都出在源文档没处理好。改写法不是编造而是换一个视角描述你真实做过的事。比如“开发了订单查询功能”可以写成“构建了面向核心业务数据的检索接口设计并优化了覆盖百万级数据的查询链路”。2.2 项目描述的量化和关键词布局简历里的项目描述不要用职责式写法要用“背景—动作—量化结果”的结构。每个项目写三到四点每一点都要能回答“做了什么、怎么做的、效果是多少”。我当时投递后反馈最好的一段经历是一个数据平台项目我把它改写成“构建基于向量索引的文档召回模块支持PB级日志数据的关键信息定位检索耗时从秒级降至毫秒级覆盖3个业务线的异常排查场景。“这种写法虽然没有出现“大模型”三个字但“向量索引”“召回”“检索耗时”这些词直接命中RAG岗位的关键能力项。面试官看到的是“这个人能直接上手做检索环节”。关键词布局上重点放这几个向量检索、召回、重排、Embedding、上下文窗口、提示词工程、评估指标、LangChain有真实使用再说、微调有真实项目再说。千万别堆砌写上去的就一定要能讲透。2.3 自我介绍与引导式表达自我介绍控制在2分钟左右不要复述简历。我的模板是一句话说背景两句话说你最匹配这个岗位的项目一句话说你当前正在学什么表明成长意愿。这里有个非常实用的技巧在自我介绍结尾抛一个“钩子”。比如我说“最近自己搭了一个基于大模型的文档问答工具在调优召回的准确性”面试官后面大概率会顺着问这个工具这就等于你提前把面试节奏引导到了自己最熟悉的区域。这个“钩子项目”真不一定要多复杂。自己写个脚本拿开源模型搭一个RAG管道用几十篇技术文档做知识库跑通召回和问答就行。关键是你对这个过程的细节有完整理解能扛住追问。3. 大模型底层八股这些原理题必须脱口而出RAG岗位面试从头到尾不会离开大模型底层原理虽然没有要求手推公式但核心概念必须能清晰讲出来。这一章我按实际被问到的频率排序来说。3.1 Transformer结构与注意力机制Transformer是绕不开的第一问。最常被问的是自注意力机制里Q、K、V分别是什么以及为什么计算Attention时要做缩放。Q、K、V分别代表Query、Key和Value。你可以和生活类比Q是你在图书馆搜索的关键词K是每本书的目录V是书的内容。搜索引擎先拿关键词去匹配目录匹配相似度高的书分配更高的权重然后把多本书的内容按权重混合在一起输出。Multi-Head Attention就是把整个匹配过程做多份每份学习不同维度的相关性类似多个领域的专家委员会投票。缩放因子为什么要除以根号d_k如果不缩放当向量维度比较大的时候点积结果的方差会变大softmax的输入进入饱和区梯度会非常小模型不好训练。除以根号d_k之后点积结果的方法保持稳定。这个细节虽然简单但非常能体现你是不是真懂。位置编码也是高频区。你要知道RNN天然有序、Transformer并行所以必须注入位置信息。另外绝对位置编码和相对位置编码的区别要会说以及为什么现在主流模型都在用旋转位置编码RoPE它把相对位置信息通过旋转矩阵注入到注意力计算中对长文本外推更友好这也是很多模型宣称支持长上下文的原因之一。3.2 训练链路预训练、SFT与偏好对齐面试官会问“大模型是怎么来的”这个问题在应用岗通常不深挖训练细节但基本流程必须说清楚。预训练阶段用海量无标注文本做自回归预测学的是语言本身的统计规律。SFT阶段用人工标注的指令-回答对做有监督微调让模型学会“听指令回答问题”。偏好对齐阶段用人类反馈优化模型行为让回答更符合人类的偏好和价值观。这里很容易被追问的是微调相关方法。至少要说出口LoRA的原理冻结原始模型参数在注意力层旁边插入低秩分解的矩阵来模拟权重更新训练参数少、显存占用小。我还会补一句“推理时可以把LoRA权重合并回原模型不增加额外延迟”这句话能立住工程思维的人设。RLHF和DPO的区别也是送分题。RLHF需要先训练奖励模型再用强化学习如PPO优化策略。DPO直接通过偏好数据构造损失函数来优化省去了奖励模型和复杂的强化学习流程训练稳定、成本低。面试官问这两个更多是看你对工程成本的敏感度。3.3 推理优化KV Cache与高效解码大模型应用岗越来越看重推理效率这类题我不止一次遇到。KV Cache是首要的。标准的自回归解码逐个生成token每步都需要重新计算之前所有token的KV矩阵非常浪费。KV Cache的方案是把每一步算出的Key和Value缓存起来后续步骤直接复用避免重复计算。面试官台阶会递进到“那显存不够怎么办”这时要说分页KV Cache、量化缓存、以及GQA分组查询注意力中间层多个Query头共享KV等思路。推理优化还有几个方向要能枚举出来量化如INT8/INT4压缩权重牺牲少量精度换吞吐、投机采样用小模型先草拟一批token大模型一次校验、连续批处理动态拼接不同请求提升GPU利用率。不需要全部深入但能说出它们在解决什么问题、有什么代价这个深度对2年经验候选人很够。还有一类问题会结合场景“用户上传100页文档为什么不直接把全部内容塞进提示词”答案的核心是上下文长度和成本的权衡超过训练上下文长度时性能断崖下降每一步推理成本随token数量线性上升而且长上下文中的噪声会严重干扰注意力分配导致“lost in the middle”现象。4. RAG工程全链路从文档切分到评估闭环RAG是整个面试的核心区。我说句实在话面试官对2年经验的候选人并不是要求你做过完整的RAG系统而是要求你能清晰地讲出RAG每一个环节“在做什么、有什么坑、怎么调”。4.1 基础架构与整体流程RAG的架构一句话概括先检索再生成。对用户查询先做召回从知识库中找出相关文本片段然后把原始查询和召回结果一起拼进提示词交给模型生成回答。整体链路可以分成五个环节文档加载与解析、文本切分、向量化与索引构建、查询召回与重排、提示词组装与答案生成。每个环节面试都有固定问法。文档加载问的是怎么处理PDF、Word、扫描件中的表格和图片文本切分问的是怎么确定chunk大小和重叠窗口向量化问的是embedding模型怎么选、索引用什么召回问的是纯向量够不够、要不要混合检索生成问的是怎么防止模型胡编。我建议准备的时候手画一遍这条链路面试的时候可以口头描述同时准备一个完整demo的细节。我的经验是只要你能把一个自己搭的RAG工具讲透比背十个理论答案效果都好。4.2 召回质量优化切分、Embedding与混合检索文档切分是第一个坑。我面试时会主动提到一个真实场景“我一开始按固定500字符切文档结果一个完整的表格被切成两半召回时表格内容完全不可用。”面试官对这个细节非常有共鸣。固定窗口切分的局限在于割裂语义单元。改进方案有两种一种是根据文档结构切分比如Markdown标题或PDF章节目录按层级划分块另一种是语义切分通过embedding的相似度变化来判断语义边界自然断句。实际使用中结构切分优先没有结构号的文档用窗口加重叠。chunk大小的选择没有银弹。我实际测试的情况是中文技术文档用300到500字符效果比较好英文可以用400到800。评估标准是召回答案的完整性和答案连贯性。chunk太小召回的上下文可能不足chunk太大则噪声多embedding表达精度下降。我准备了一组不同尺寸的对比实验数据面试时直接展示这种具体到数字的经验很加分。Embedding模型选型科普一个关键点领域差异比模型参数大小更重要。通用模型在专业领域的文本相似度计算上往往不如一个在目标领域微调过的小模型。我提过一个自查思路拿一批相似的领域问题做召回测试观察Top5命中率而不是只看公开榜单分数。混合检索是召回阶段的标配答案。我讲到这个时会解释一个现象向量检索擅长语义匹配但精确关键词如产品编号、人名、报错码经常在向量空间里匹配不到BM25这类稀疏检索在这些场景反而更稳定。实践上做一个两路召回再合并比单路结果稳定很多。如果面试官追问“两路召回结果怎么合并”就说用加权和或交给重排模型再去粗取精。重排Rerank简述一句话就够“召回阶段追求召回率、允许引入噪声重排阶段追求精度、重新计算相关性。”实现上直接调用现有的重排模型接口把Top50精排成Top5再送入生成环节。4.3 生成环节与评估体系提示词组装也有讲究。我踩过的坑是直接把所有知识块拼起来注入上下文结果模型经常答非所问。改进后的做法是提示词里明确区分“背景知识”与“用户问题”并限定“请仅基于背景知识回答背景中没有的信息请明确说明不知道”。生成环节高频追问是“怎么减轻幻觉”。答案分成输入侧和模型侧输入侧重排提升召回的精准去除噪声模型侧让模型在不确定时拒绝回答还有一种思路是把回答拆成“直接回答引用来源免责说明”引导模型在无法确定时不强行作答。评估闭环是很多人准备不足但面试官非常看重的部分。RAG系统怎么评估好坏至少要说得出评测维度上下文相关性Retrieval Relevance、忠实性Faithfulness回答是否和检索内容一致也就是幻觉的程度、答案相关性Answer Relevance。可以提一下现在有开源的评估框架例如RAGAS能自动用大模型打分生成指标报告。这部分能答出来的人很少只要你把“召回质量、生成质量、端到端质量”三层评估框架讲清楚面试官印象分会明显提高。4.4 进阶追问多轮对话、Agent化与RAG边界多轮对话场景有一个高频问题“用户第一轮问A第二轮问BB里隐含了A的上下文直接拿B去检索是检不准的”。这个问题的标准解法是查询改写先让大模型结合历史对话把当前问题转换成独立完整的问题再去做检索。注意如果历史查询改写错误会传导到检索阶段。折中方案是抽取关键实体和历史话题标签来辅助改写。Agent化RAG现在也被问得越来越多。比如“如果有多个知识库怎么让大模型决定先查哪个、再查哪个”。这就是路由加多步检索的思路模型的每一步可以选择调用工具、检索、计算最后综合结果规划回答。不需要真的做过但要能说出Agent工作流的链条规划、工具调用、记忆、反思。RAG的边界也必须心里有数。面试官会问“RAG和微调怎么选”。我的回答模板是RAG适合知识实时更新、答案需要溯源、场景要求可解释的场景微调适合模型的风格化、数据分布改变、输出格式要求固定的场景。两者不是替代关系复杂系统常常是RAG负责事实性知识微调负责应对风格和输出规范。5. 手撕代码与系统设计刷题与场景题怎么准备大模型应用岗位的手撕代码不像纯算法岗那样只考LeetCode更多是结合业务场景的小代码题。我遇到的题目大致分三类下面给出高频清单和应对思路。5.1 Python基础与高频手写题Python是这类岗位的第一语言手写题从易到难排列如下用Python实现一个简单的余弦相似度计算函数写一个文本切分函数按固定窗口加重叠滑窗实现一个简单的BM25打分函数用正则或解析库提取PDF文本用OpenAI或其他SDK调用LLM接口完成一次流式输出实现一个简单的top_k采样函数我实际被考到过余弦相似度原题大意是给两个向量用代码算相似度。这个题可以答得非常出彩先写基础版然后说“实际工程中向量是存在向量数据库里的我们不会把所有向量拿回来算内积而是用索引预筛掉无关向量再做精算”。这样手写题就变成了系统设计题的入口面试官自然会跟着你的节奏走下去。5.2 高频RAG场景题与代码实例有一种手撕题是场景驱动的比如“给一个问答API输入是问题输出是答案请写一个带检索增强的调用函数”。这相当于让你现场把RAG链路用代码描述一遍。我当时的写法是定义三个函数一个做索引查询假设使用现成向量库接口一个组装提示词一个调用模型。伪代码示意如下def retrieve(query, top_k5): # 调用向量数据库接口返回候选文本 hits vector_db.search(query, top_ktop_k) return [hit.text for hit in hits] def build_prompt(query, contexts): context_block \n\n.join(contexts) return f请基于以下资料回答问题资料中没有的信息请直接回答不知道。 资料 {context_block} 问题{query} def rag_answer(query): contexts retrieve(query) prompt build_prompt(query, contexts) return llm_chat(prompt) # 流式或非流式写完之后面试官一定会追问“这个函数上线之后你重点观察什么指标”答案就是召回命中率和忠实性。只要你能答出“上线前构造评测集离线测指标上线后看线上反馈率”这道题就从手撕代码升级成了系统设计评估题。5.3 系统设计题如何讲好一个RAG系统“设计一个客服知识库智能问答系统”是这类岗位最经典的系统设计题。一个好的回答结构是这样先说用户量和预期QPS。假设每日10万次查询高峰QPS在50左右这个量级单机加缓存就能扛住没必要上来就画复杂的微服务图。再说RAG的核心链路文档入库流程上传→解析→清洗→切分→embedding→写入向量库、在线查询流程问题改写→检索→重排→生成。我会刻意提到离线评测任务每周用新的评测集跑一遍指标再加一层监控检索延迟、生成Token数、超时率、负面反馈率。还得说缓存策略相同问题可以做缓存但还要对相似问题进行语义缓存用一个阈值判断是否命中缓存。这个设计能显著降低调用成本。最后说扩展性如果知识库从一万篇涨到百万篇向量索引怎么办分片如果需要支持多租户怎么隔离检索范围索引上加业务标签过滤。整个回答控制在8分钟左右讲清楚闭环不贪多这个深度对2年经验足够。6. 面试现场的问答技巧与软实力技术面通过之后软实力往往决定你是P几、能不能拿到更高的薪资。这个板块很少人认真准备但真的是能拉开差距的地方。6.1 反问环节怎样问出有价值的问题面试最后基本都会让你反问。千万不要问“我们部门主要是做什么的”这种简历上就有答案的问题也不要一上来问薪资。我的反问答法一般是分梯度。技术面反问一个与系统相关的问题比如“贵方RAG落地时最头疼的问题是文档多样性还是评估难做”。这个问题表明你不只是在背书而是真实关心工程实施难点。交叉面反问团队如何平衡模型效果和推理成本。HR面再问成长通道和团队构成。一个技巧如果面试中某个技术点你没答好反问环节是弥补的机会。可以主动延续那个话题说“刚才这个问题我回去又想了想还有一种可能是……”这个动作能让面试官看到你的复盘能力印象会转变。6.2 HR面、定级与谈薪HR面的核心任务是确认你的稳定性、沟通协作能力和薪资预期。常见的几个问题先准备好为什么离开上一家公司重点是客观原因加个人发展不抱怨、为什么转大模型方向要说兴趣加逻辑而不是“因为AI工资高”、你的职业规划说在这个赛道上持续深耕的时间计划。谈薪这件事我的经验是要有依据。面到HR轮你手上至少应该有一个其他家的offer或者对比数据然后明确说出期望区间不要只说“都可以”。还需要搞清楚一个概念到手总包要拆成基础薪资、年终奖、期权/股票去理解有些公司总包数字很大但基础月薪低跳槽涨幅要按基础月薪算才靠谱。6.3 面试时间线与心态管理最后分享我的时间安排方便你规划。前两周是知识梳理阶段每天三件事上午过一个大模型原理题下午做一个RAG工程细节深挖晚上手写代码练习。中间十天是项目强化阶段把简历里的每个项目按“背景、方案、结果、坑”四段式写逐字稿然后自己录音念一遍你会发现很多地方嘴上说不利索。最后一周是模拟面试阶段找朋友互相扮演面试官专门练习追问环节。心态上我要说一句真实体会这个岗位的面试难的不是知识量而是边界的把握。你不需要什么都完美但一定不能有不诚实的部分。我说过一个没做过的组件“碰过一点”结果被追问到底层细节当场露馅。从那以后我的原则是可以“知道”不可以“装做过”。你大大方方说“这块我还没实践过但我的理解是……”面试官往往反而会帮你解释。写在最后面了这么多场我最大的变化是看待RAG的眼光变得更工程化了。以前觉得RAG就是个“向量库加大模型”的拼装玩具现在意识到它本质上是在解决信息获取和组织的信任问题。这也反过来让我对做过的后端业务有了新的理解算是意外的成长。如果你正在准备这类面试记住三件事一是用自己的话把RAG链路从头到尾讲给一个虚拟的听众听直到对方能听懂二是一定要搭一个最小demo哪怕只有几百行代码它会成为你面试中最有说服力的东西三是把每一次面试后的复盘记录下来你会惊讶于自己的进步速度。祝你能拿到心仪的offer。
