工作職責：
1、 設計與實現(xiàn)高并發(fā)后端服務（FastAPI/Flask），支持流式輸出、函數(shù)調用等 LLM 能力 ，接入與統(tǒng)一封裝多種模型 API，實現(xiàn)模型路由、降級與容災策略，進行成本與性能監(jiān)控 。
2、搭建 RAG 檢索服務：文本分塊策略、Embedding 生成與索引構建（Faiss/Milvus/Chroma），Hybrid 檢索，并進行召回與準確率評估
3、 建立知識庫數(shù)據(jù)流水線：文檔解析與清洗（PDF/Doc/HTML/網頁），異步 ETL、批量與增量索引更新，保證數(shù)據(jù)與索引一致性
4、推進 Prompt 工程與模板管理：上下文拼接、變量注入、工具調用/函數(shù)調用，策略化控制與 Guardrails（內容安全、拒答策略、敏感信息脫敏）
5、 設計模型質量與穩(wěn)定性監(jiān)控：評測集構建、指標體系、A/B 測試與實驗平臺，對生成質量持續(xù)優(yōu)化 ? 進行性能與穩(wěn)定性優(yōu)化：并發(fā)控制、批量推理、KV Cache 復用、緩存與請求去重、限流與重試、冪等與失敗重放
6、 負責多租戶與權限系統(tǒng)（RBAC/ABAC）：租戶隔離、資源/配額/計費、審計日志、API Key/簽名鑒權 ? 進行微服務與網關治理：服務拆分與接口規(guī)范，、Nginx 配置、灰度發(fā)布、熔斷與降級 。
7、 數(shù)據(jù)存儲與設計：PostgreSQL/MySQL 的表結構與索引優(yōu)化、事務與鎖、遷移、讀寫分離與緩存一致性 ? 部署與運維：Linux 與 Docker，CI/CD，日志與可觀測，異常監(jiān)控與告警 ?
8、工程質量保障：單元/集成/負載測試、接口契約（、錯誤處理、文檔與開發(fā)流程規(guī)范 。

任職資格：
1、精通 Python，熟悉異步編程與性能優(yōu)化，熟練使用 FastAPI 或 Flask
2、 熟練使用 PostgreSQL/MySQL 與 SQLAlchemy，理解事務、索引與查詢優(yōu)化
3、 熟練使用 Redis（緩存、分布式鎖、Rate Limit、Pub/Sub 或 Streams）
4、 熟悉 Linux 與 Docker，具備基本系統(tǒng)部署能力，熟悉Kafka/RabbitMQ/Celery 等異步任務或消息隊列，能搭建穩(wěn)定的 ETL/索引流水線
5、具備向量庫經驗（Faiss/Milvus/Chroma 任一），理解 RAG 基礎與檢索評測方法 ， 有后臺管理系統(tǒng)、多租戶、權限系統(tǒng)（RBAC）開發(fā)經驗 。
6、 至少熟悉一種主流模型 API（DeepSeek/Qwen/OpenAI 等），理解流式輸出、函數(shù)調用、提示詞管理與費用控制 。
7、 了解微服務、API 網關與 Nginx 基本配置，有接口規(guī)范與工程化實踐意識 。
8、能獨立完成模塊設計與實現(xiàn)，注重日志、錯誤處理、測試與文檔

加分項：
? LLM 服務優(yōu)化經驗：vLLM/TGI/Triton Inference Server、批量推理、并發(fā)隊列、KV Cache 復用、推理性能調優(yōu)
? RAG 增強能力：Hybrid 檢索、Reranker（BGE/ColBERT）、索引碎片與增量更新、評測集構建與指標（Recall@k、nDCG）落地
? Prompt 工程與安全治理：內容過濾、敏感信息識別與脫敏、拒答策略、幻覺檢測與緩解
? LangChain/LlamaIndex 等框架的工程化使用經驗，同時具備不依賴框架實現(xiàn)核心鏈路的能力
? 具備前端或低代碼后臺協(xié)作能力，能快速交付管理平臺