Java/Go 后端转 AI 应用开发：学习顺序、技术栈选择与项目路线
Java 或 Go 后端工程师转向 AI 应用开发，优先补齐的不是模型训练，而是把模型能力接进真实业务的工程能力：数据处理、检索、工具调用、服务化、观测和故障恢复。推荐顺序是先掌握模型调用和 RAG，再学习 Agent 编排，最后用一个可部署项目证明自己的工程能力。
这条路线适合已有 HTTP、数据库、并发、微服务或容器基础的后端工程师。目标是进入 AI 应用工程岗位，而不是直接转向算法研究或从零训练基础模型。
AI 应用岗与算法岗的边界
AI 应用开发岗位通常关心以下问题：
- 能否把 LLM、Embedding、Rerank 等模型能力封装为稳定服务。
- 能否构建文档处理、检索、Prompt 和引用链路。
- 能否设计 Agent 的工具边界、权限控制、超时、重试和降级。
- 能否处理 Token 成本、延迟、并发、日志和线上回归。
算法岗则更关注模型训练、数据集、损失函数、推理优化和论文复现。后端工程师如果目标是尽快完成 AI 应用项目，应先走 Go + AI 学习路线，再根据岗位要求补充 Python 或模型基础。
四阶段学习路线
阶段一：理解模型调用和数据边界
先掌握 Chat Completions、结构化输出、流式响应、上下文窗口、Token 计费、超时和错误处理。不要只停留在聊天 Demo，要能解释一次请求的输入、模型参数、输出解析和失败重试。
同时建立最小的评估问题集，记录输入、期望输出和实际输出。没有基线，后续修改 Prompt 或模型时无法判断是否真的变好。
阶段二：完成一个可解释的 RAG 链路
从文档加载、清洗、切片、Embedding、向量检索到引用生成，逐步实现一个闭环。重点是能回答：文档如何重建索引，权限如何过滤，召回不到答案时如何返回“不知道”，以及如何分别评估检索命中和最终答案质量。
先阅读 Agent 与 RAG 专题 和 RAG 完整工作原理，再进入 企业级 RAG 项目。
阶段三：学习 Agent 和工具调用
Agent 的价值在于根据任务选择工具和步骤，但自主性越高，系统边界越难控制。先掌握固定流程，再使用 Graph 或 Chain 表达可观测的编排，最后在确有决策需求的地方引入有限 Agent。
每个工具都应有明确的参数 Schema、权限范围、超时、重试策略和最大迭代次数。涉及写操作、资金、权限或外部通知时，应加入人工确认或审批环节。相关内容可参考 Agent 与 MCP。
阶段四：补齐生产工程和求职表达
当 Demo 可以运行后，继续补齐配置管理、密钥保护、限流、队列、缓存、链路追踪、成本统计、灰度发布和回滚。AI 应用的难点往往发生在模型慢、供应商异常、文档过期或工具失败时，而不是正常回答时。
最后把项目整理成一段可验证的项目经历：业务问题是什么，你负责哪些模块，做过哪些取舍，如何评估效果，线上如何监控和恢复。不要只罗列“使用了 RAG、Agent、Eino、向量数据库”等名词。
Go/Java 技术栈选择
| 目标 | Go 方向 | Java 方向 | 选择依据 |
|---|---|---|---|
| 模型调用服务 | 原生 HTTP 客户端或 Eino | Spring AI 或原生 SDK | 优先看供应商兼容性和团队经验 |
| 工作流编排 | Eino Chain、Graph | Spring AI、LangChain4j | 固定流程优先显式编排 |
| RAG 存储 | PostgreSQL、Milvus、Qdrant 等 | 同样的存储服务 | 先看过滤、备份、运维和客户端成熟度 |
| 服务化 | Gin、标准库、容器 | Spring Boot、容器 | 与现有服务治理和发布体系保持一致 |
不需要为了“做 AI”重写熟悉的后端栈。Java 团队可以保留 Spring Boot 的配置、鉴权和观测能力；Go 团队可以用轻量服务承载在线查询和异步索引。真正需要统一的是接口契约、数据版本、权限规则和评估口径。
项目组合与求职检查点
建议至少准备一个主项目和两个能说明取舍的小项目：
- 主项目：企业知识库，包含文档处理、混合检索、引用回答、权限过滤和评估集。
- 编排项目：AI 面试官或客服 Agent，包含工具调用、状态管理、超时和人工确认。
- 工程专题：流式输出、模型网关、可观测性或生产部署中的一个完整模块。
面试前逐项检查：
- 能否画出索引和查询两条链路，并解释每个模块的输入输出。
- 能否说明 Chunk、Top-K、重排、上下文长度变化对结果的影响。
- 能否解释 Agent 为什么会循环，以及如何通过状态和预算限制它。
- 能否展示一次失败请求的日志、指标和恢复方案。
- 能否区分自己实际实现的内容与只调用过的第三方能力。