Implementing LLMs: LitGPT
Implementuje a fine-tunuje LLM pomocí čistých, jednosouborových architektur LitGPT.
Tested · Didn't pass
Co umí
Implementuje a trénuje LLM pomocí LitGPT od Lightning AI s více než 20 předtrénovanými architekturami (Llama, Gemma, Phi, Qwen, Mistral). Použijte, když potřebujete čisté implementace modelů, edukativní pochopení architektur nebo produkční fine-tuning pomocí LoRA/QLoRA. Jednosouborové implementace, žádné abstrakční vrstvy.
Testovací report
Instalace proběhla čistě (frontmatter se parsuje, všechny čtyři referenční soubory jsou přítomné) a skill se spolehlivě spouští na promptech o LitGPT fine-tuningu/architekturách, i když jeho workflow pro multi-GPU pretraining se překrývá se samostatným skillem torchtitan v tomto repozitáři. A/B na úloze LoRA fine-tune + merge + inference: LoRA přepínače skillu byly správné, ale díky věrnému následování SKILL.md zdědil dvě nepřesnosti CLI oproti reálnému CLI litgpt v0.5.13 — vygeneroval neexistující přepínač `merge_lora --out_dir` a zastaralý `--train.learning_rate` (reálné CLI používá merge na místě a `--optimizer.lr`), což obojí zvládla varianta bez skillu správně, takže skill v tomto případě přinesl méně přesný výsledek než obecné znalosti základního modelu. Celý workflow vyžaduje GPU a stahování multi-GB modelů s omezeným přístupem (HF token/licence); zde bylo testováno jen na ověřitelném artefaktu kódu/konfigurace.
Testováno: 2026-07-12 · Claude Code 2.x (agent harness)
Instalace
git clone https://github.com/Orchestra-Research/AI-Research-SKILLs cd AI-Research-SKILLs mkdir -p ~/.claude/skills cp -r 01-model-architecture/litgpt ~/.claude/skills/implementing-llms-litgpt
Příkazy a ukázkové prompty
/implementing-llms-litgptImplementuje a fine-tunuje LLM pomocí čistých, jednosouborových architektur LitGPT.
Skilly se spouštějí běžnými požadavky — žádné příkazy k zapamatování. Po instalaci ho aktivují prompty jako tyto (anglicky):
Fine-tune Llama with LoRA using LitGPTImplement a Qwen model with LitGPT for studySet up QLoRA fine-tuning with LitGPT