主要職責(zé):
1. 設(shè)計(jì)、實(shí)施和優(yōu)化語(yǔ)言模型訓(xùn)練策略。
2. 熟練掌握GPT、ChatGLM、LLama等大型預(yù)訓(xùn)練語(yǔ)言模型的訓(xùn)練原理和方法。
3. 在團(tuán)隊(duì)帶領(lǐng)下，參與大模型訓(xùn)練課程研發(fā)及授課。
4. 其他領(lǐng)導(dǎo)安排的工作。
職位要求：
1. 計(jì)算機(jī)科學(xué)、人工智能或相關(guān)領(lǐng)域?qū)I(yè)。
2. 熟練掌握GPT-4等大型預(yù)訓(xùn)練語(yǔ)言模型的訓(xùn)練原理和方法。
3. 有實(shí)際操作過(guò)開(kāi)源模型（尤其是LLAMA2、Vicuna）的經(jīng)驗(yàn)，并取得良好的訓(xùn)練結(jié)果。
4. 熟悉LLM訓(xùn)練技巧，包括但不限于擴(kuò)充中文詞表、有監(jiān)督sft、獎(jiǎng)勵(lì)模型、RLHF、LORA等。
5. 有大型機(jī)器學(xué)習(xí)項(xiàng)目經(jīng)驗(yàn)，熟悉ML工程和實(shí)驗(yàn)設(shè)計(jì)。
6. 良好的分析和解決問(wèn)題的能力，對(duì)新技術(shù)有敏銳的洞察力。
7. 良好的團(tuán)隊(duì)協(xié)作和溝通能力，能在快節(jié)奏的環(huán)境中工作。