Hands-on workshop: Small language models fine-tuning

🛠️ Praktinės dirbtuvės: Mažųjų kalbos modelių (SLM) tikslinimas

Nors didieji modeliai dominuoja antraštėse, tikroji revoliucija verslui ir kūrėjams slypi mažuosiuose kalbos modeliuose (SLM). Prisijunkite prie intensyvių dirbtuvių, kuriose demistifikuosime procesą, kaip pritaikyti atviro kodo modelius (tokius kaip „Llama 3“, „Mistral“ ar „Gemma“) jūsų specifiniams duomenims ir poreikiams.

Kodėl verta dalyvauti? Sužinokite, kaip pasiekti „GPT lygio“ rezultatus konkrečiose užduotyse, naudojant tik dalį skaičiavimo resursų, sumažinant vėlinimą (latency) ir užtikrinant duomenų privatumą.

Ką aptarsime:

Duomenų paruošimas: Geriausios praktikos, kaip tinkamai suformatuoti duomenų rinkinius instrukcijų mokymui.

Efektyvus tikslinimas (Fine-Tuning): Praktinis gidas, kaip naudoti PEFT metodus (pvz., LoRA ir QLoRA), siekiant apmokyti modelius naudojant įprastą techninę įrangą.

Vertinimas ir optimizavimas: Kaip palyginti savo modelio rezultatus ir optimizuoti jį veikimui (kvantavimas, GGUF formatai).

Diegimas: Strategijos, kaip paleisti savo sukurtą SLM lokaliai arba kaštus taupančioje debesijos aplinkoje.

💻 Reikalavimai: Bazinės „Python“ ir „PyTorch“ žinios. Prašome turėti savo nešiojamąjį kompiuterį (prieiga prie debesijos GPU bus suteikta).