崗位職責(zé)
1. 基于 LiteLLM + FastAPI 構(gòu)建與定制企業(yè)級(jí)大模型統(tǒng)一接入網(wǎng)關(guān)（核心入口）。
2. 負(fù)責(zé)大模型統(tǒng)一入口的：模型路由、負(fù)載均衡、Key 管理、限流、配額、審計(jì)、模型降級(jí)。
3. 深度參與 ASP.NET Core WebAPI 內(nèi)部系統(tǒng)開發(fā)。
4. 設(shè)計(jì)多模型接入架構(gòu)（OpenAI / Azure OpenAI / Claude / Gemini / 本地模型等）。
5. 參與 AI 網(wǎng)關(guān) + 內(nèi)部業(yè)務(wù)系統(tǒng)的整體架構(gòu)設(shè)計(jì)、性能優(yōu)化、高并發(fā)與高可用方案。
6. 支持 ToB 客戶私有化部署、多租戶隔離與企業(yè)級(jí)交付。
任職要求：
1. 熟練掌握 Python，F(xiàn)astAPI ；熟練掌握 ASP.NET Core WebAPI（.NET 6+），可獨(dú)立承擔(dān)內(nèi)部系統(tǒng)模塊開發(fā)。
3. 熟練 RESTful 規(guī)范、鑒權(quán)、日志、異常、接口治理體系。
4. 熟悉 LiteLLM / LangChain / LlamaIndex 等大模型框架至少一種。
5. 深刻理解大模型調(diào)用機(jī)制：Prompt、Token、上下文、函數(shù)調(diào)用。
6. 具備 API 網(wǎng)關(guān)基礎(chǔ)能力經(jīng)驗(yàn)：鑒權(quán)、限流、審計(jì)、配額。
7. 熟悉 Redis、MySQL / PostgreSQL。