Implementing LLMs: LitGPT
Implementerar och finjusterar LLM:er med LitGPTs rena, enfils-arkitekturer.
Tested · Didn't pass
Vad den gör
Implementerar och tränar LLM:er med Lightning AI:s LitGPT med 20+ förtränade arkitekturer (Llama, Gemma, Phi, Qwen, Mistral). Använd när du behöver rena modellimplementationer, pedagogisk förståelse av arkitekturer eller produktionsfinjustering med LoRA/QLoRA. Enfilsimplementationer, inga abstraktionslager.
Testrapport
Installerades rent (frontmatter parsas korrekt, alla fyra referensfiler finns) och triggar korrekt på LitGPT-finjusterings-/arkitekturprompter, även om dess multi-GPU-förträningsflöde överlappar repots separata torchtitan-skill. A/B på en uppgift med LoRA-finjustering + sammanslagning + inferens: skillens LoRA-flaggor var korrekta, men genom att troget följa SKILL.md ärvde den två CLI-felaktigheter jämfört med den riktiga litgpt v0.5.13-CLI:n — den skrev ut en obefintlig `merge_lora --out_dir`-flagga och den föråldrade `--train.learning_rate` (den riktiga CLI:n använder sammanslagning på plats och `--optimizer.lr`), båda som den skillfria baslinjen fick rätt, så skillen gav ett mindre korrekt resultat än basmodellens allmänna kunskap. Hela arbetsflödet kräver en GPU plus spärrade nedladdningar av flera GB stora modeller (HF-token/licens); testades här endast på den kontrollerbara kod-/konfigartefakten.
Testad: 2026-07-12 · Claude Code 2.x (agent harness)
Installation
git clone https://github.com/Orchestra-Research/AI-Research-SKILLs cd AI-Research-SKILLs mkdir -p ~/.claude/skills cp -r 01-model-architecture/litgpt ~/.claude/skills/implementing-llms-litgpt
Kommandon och exempelprompter
/implementing-llms-litgptImplementerar och finjusterar LLM:er med LitGPTs rena, enfils-arkitekturer.
Skills triggas av vanliga förfrågningar — inga kommandon att memorera. Efter installationen aktiverar prompter som dessa skillen (på engelska):
Fine-tune Llama with LoRA using LitGPTImplement a Qwen model with LitGPT for studySet up QLoRA fine-tuning with LitGPT