AI Data Analyzer (STAR法则与难点解析)
一、 项目介绍(STAR 法则)
1. Situation(背景):
- 在当前的企业数字化转型中,业务人员经常需要从海量数据(如 CSV 报表)中提取洞察。
- 传统方式要么依赖数据分析师写 SQL,要么使用固定死板的 BI 工具。
- 大模型虽然强大,但直接让业务人员把机密数据贴给 ChatGPT 存在隐私风险,且难以得到稳定、结构化的图表数据。
- 因此,我主导开发了这套自动化数据分析 AI Agent 平台。
2. Task(任务):
- 我的目标是打造一个工业级的 AI 智能体应用。用户只需上传数据,系统就能自动完成清洗、特征提取、深度分析,并最终生成可视化图表。
- 同时,系统必须解决大模型输出不稳定、长耗时任务阻塞主线程、以及模型切换成本高等工程痛点。
3. Action(行动 - 结合核心贡献):
- 架构设计:我采用了前后端分离的全栈架构。前端使用 Next.js + App Router 保证 SEO 和性能,后端采用 NestJS 提供严谨的依赖注入架构。
- 模型抽象与防幻觉:我抽象了
ILLMService接口,用策略模式兼容了 OpenAI、Claude 和本地的 Ollama 模型。为了解决大模型输出 JSON 不稳定的问题,我结合 Zod 和 class-validator 实现了严格的结构化输出校验,并在解析失败时自动提取错误信息反馈给模型进行重试。 - 高并发与异步调度:考虑到数据分析是一个极耗时的 I/O 密集型任务,如果用传统的 HTTP 请求会导致超时。我引入了 Redis + BullMQ,将分析任务推入后台消息队列,彻底解耦了核心链路。
- 实时交互流:为了消除用户在长耗时任务中的焦虑感,我抛弃了长轮询,而是结合了 SSE (Server-Sent Events) 实现了分析结果的流式输出(打字机效果),并通过 WebSocket 实时向前端推送 AI Agent 思考的底层执行步骤(CoT)。
4. Result(结果): “最终交付的系统成功跑通了数据管道的闭环。不仅前端体验极度丝滑(实时反馈思考过程),后端也具备了处理高并发任务的容错能力。并且我预留了用户反馈(RLHF)的数据接口,为后续的专有模型微调打下了基础。”
二、 核心技术难点与重点内容
难点 1:如何保证大模型每次都输出稳定的 JSON 格式?(防幻觉机制)
- 痛点:大模型本质是概率模型,即便你在 Prompt 里强调“请输出 JSON”,它依然可能给你回复
好的,这是你的 JSON:{...}导致JSON.parse报错。 - 我的解决方案:
- Prompt 约束:在系统提示词中提供 few-shot 示例,并严格限制不允许输出多余的解释。
- Zod / class-validator 强校验:后端收到回复后,立刻用 Zod 定义的 Schema 进行校验。
- 自愈重试机制 (Self-Correction):这是亮点! 如果校验失败,我不直接抛错给用户,而是捕获 Zod 的具体错误(例如
字段 keyFindings 缺失),将这个错误信息拼接成新的 Prompt 再次发给大模型:“你刚才生成的 JSON 格式有误,具体错误是 XXX,请修正后重新输出。” 设定最大重试次数(如 3 次),极大提升了可用性。
难点 2:为什么选用 BullMQ + Redis?如果不加会怎样?(高并发异步调度)
- 痛点:AI 分析动辄需要 10-30 秒。传统的同步 HTTP 请求不仅会导致浏览器超时断开连接,还会长期占用 Node.js(单线程)的请求处理资源,导致系统吞吐量断崖式下降。
- 我的解决方案:
- 将长耗时任务转变为异步的事件驱动架构。
- Controller 收到数据后,立即将数据和分析要求
add到 BullMQ 队列中,并立刻返回给前端一个jobId(HTTP 202 Accepted)。 - 后台起专门的 Worker 进程监听队列,从 Redis 中拉取任务执行。
- 这带来了三大好处:解耦(接口响应极快)、削峰填谷(流量洪峰时任务在队列里排队,不会压垮大模型 API)、容错重试(如果中途服务器重启,Redis 持久化的任务不会丢失,重启后继续执行)。
难点 3:SSE 和 WebSocket 都是长连接,为什么要同时使用?(极致实时流式交互)
- 核心认知:面试官想看你对网络协议的理解深度。
- 我的架构选择:
- WebSocket (全双工):用于状态同步和事件广播。例如,当 BullMQ 任务的状态从
waiting变成active,或者 Agent 进入了某个具体的“思考阶段”(如:正在提取特征 -> 正在生成图表代码),后端通过 WebSocket 推送轻量级的状态消息。前端收到后更新进度条或思考状态。 - SSE (Server-Sent Events - 单向下发):专门用于大语言模型生成的长文本流式输出(Streaming)。因为分析报告文本可能很长,SSE 是基于 HTTP 的,天然支持流式分块传输(Chunked transfer encoding),用它来实现“打字机效果”比 WebSocket 更轻量、更符合标准 HTTP 语义。
- WebSocket (全双工):用于状态同步和事件广播。例如,当 BullMQ 任务的状态从
难点 4:如何设计支持多模型无缝切换的底层架构?(设计模式)
- 痛点:今天用 OpenAI,明天老板为了省钱要换成内部部署的 Ollama (Qwen 模型)。如果代码里到处都是
axios.post('https://api.openai.com'),重构成本极高。 - 我的解决方案 (SOLID 原则中的依赖倒置):
- 定义统一的接口
ILLMService,规定必须实现generateStructuredAnalysis()方法。 - 针对不同模型编写实现类:
OpenAIService、ClaudeService、OllamaService。 - 利用 NestJS 的 IoC (控制反转) 和依赖注入 (DI) 容器,通过配置文件或环境变量,动态决定将哪个具体的实现类注入到核心的
AnalysisService中。业务逻辑层完全不关心底层用的是什么模型。
- 定义统一的接口
三、 面试官可能追问的深入问题 (Q&A)
Q1:你的数据飞轮 (RLHF 数据基础) 具体是怎么落地的?
- 回答:我在系统中设计了 Feedback 模块。当 AI 输出分析报告后,前端展示“👍有用 / 👎无用”按钮。当用户点击时,我会将原始数据特征、当时的 Prompt、AI 生成的结果以及用户的评价(1-5星)打包存入 PostgreSQL。当这种
(State, Action, Reward)的数据对积累到一定量(比如几万条),我们就可以提取这些数据,通过 DPO (直接偏好优化) 或 PPO 算法,去微调本地开源模型(如 Llama 3),让模型越来越懂我们自己业务的数据。
Q2:如果用户上传了 1GB 的超大 CSV 文件,你的系统撑得住吗?
- 回答:目前的系统由于大模型 Context Window (上下文窗口) 的限制,不能把 1GB 数据全喂给模型。针对大文件,我会做两层处理:
- 流式解析:在 Node.js 中使用
fs.createReadStream结合fast-csv,一行行读取,绝不把整个文件加载到内存中(防止 OOM)。 - 特征提取与采样:AI 不需要看所有行,只需要看数据 Schema(表头、字段类型)、统计学特征(最大值、最小值、平均值)以及随机采样的 50 行数据。我在 Node.js 端先进行预处理压缩,最后只把这些提炼后的“元数据”和“采样样本”交给 LLM 进行分析,从而绕过 Token 限制并大幅节省成本。
- 流式解析:在 Node.js 中使用
Q3:你提到本地跑了 CI/CD,具体做了什么?
- 回答:由于项目是 Monorepo (基于 pnpm workspace),我在 GitHub Actions 配置了流水线。每次推送代码,都会自动并行执行前后端的
pnpm lint、pnpm test(Jest 单元测试)。同时利用 Docker 的多阶段构建 (Multi-stage build) 测试镜像打包。遇到过最大的坑是子项目间的pnpm-lock.yaml同步问题,我通过在构建时明确指定 workspace scope 和--frozen-lockfile保证了生产环境依赖的绝对一致性。
💡 给面试者的建议:在讲这个项目时,多用“解耦”、“兜底机制”、“成本控制”和“用户体验”这样的词汇,这能体现你超越了初级程序员的“调包侠”思维,具备了架构师的全局观。
