Implementing LLMs: LitGPT
Implementerer og finjusterer LLM'er med LitGPTs rene, enkeltfils-arkitekturer.
Tested · Didn't pass
Hvad det gør
Implementerer og træner LLM'er med Lightning AIs LitGPT og 20+ forudtrænede arkitekturer (Llama, Gemma, Phi, Qwen, Mistral). Brug det, når du har brug for rene modelimplementeringer, pædagogisk forståelse af arkitekturer eller produktionsklar finjustering med LoRA/QLoRA. Enkeltfils-implementeringer uden abstraktionslag.
Testrapport
Installerede uden problemer (frontmatter parses, alle fire referencefiler er til stede) og trigger præcist på LitGPT-finjusterings-/arkitekturprompter, selvom dets multi-GPU-pretræningsworkflow overlapper reposets separate torchtitan-skill. A/B på en LoRA-finjustering + merge + inferens-opgave: skillets LoRA-flag var korrekte, men ved trofast at følge SKILL.md arvede det to CLI-unøjagtigheder ift. den rigtige litgpt v0.5.13 CLI — det udskrev et ikke-eksisterende `merge_lora --out_dir`-flag og det forældede `--train.learning_rate` (den rigtige CLI bruger in-place merge og `--optimizer.lr`), begge dele som no-skill-basen fik rigtigt, så skillet producerede et mindre korrekt resultat end grundlæggende almenviden. Det fulde workflow kræver en GPU plus gated multi-GB-modeldownloads (HF-token/licens); her blev det kun testet på det kontrollerbare kode-/konfigurationsartefakt.
Testet: 2026-07-12 · Claude Code 2.x (agent harness)
Installation
git clone https://github.com/Orchestra-Research/AI-Research-SKILLs cd AI-Research-SKILLs mkdir -p ~/.claude/skills cp -r 01-model-architecture/litgpt ~/.claude/skills/implementing-llms-litgpt
Kommandoer og eksempelprompter
/implementing-llms-litgptImplementerer og finjusterer LLM'er med LitGPTs rene, enkeltfils-arkitekturer.
Skills udløses af almindelige forespørgsler — ingen kommandoer at huske. Efter installationen aktiverer prompter som disse skillen (på engelsk):
Fine-tune Llama with LoRA using LitGPTImplement a Qwen model with LitGPT for studySet up QLoRA fine-tuning with LitGPT