Implementing LLMs: LitGPT
Implementerer og finjusterer LLM-er med LitGPTs rene, enkeltfil-arkitekturer.
Tested · Didn't pass
Hva den gjør
Implementerer og trener LLM-er med Lightning AIs LitGPT, med 20+ forhåndstrente arkitekturer (Llama, Gemma, Phi, Qwen, Mistral). Bruk når du trenger rene modellimplementasjoner, pedagogisk forståelse av arkitekturer, eller produksjonsklar finjustering med LoRA/QLoRA. Enkeltfil-implementasjoner, ingen abstraksjonslag.
Testrapport
Installerte rent (frontmatter parses, alle fire referansefiler til stede) og trigger presist på LitGPT-finjusterings-/arkitekturprompter, selv om multi-GPU-pretreningsflyten overlapper med repoets separate torchtitan-skill. A/B på en LoRA-finjustering + merge + inferens-oppgave: skillets LoRA-flagg var korrekte, men ved å følge SKILL.md trofast arvet den to CLI-unøyaktigheter mot den ekte litgpt v0.5.13-CLI-en — den brukte et ikke-eksisterende `merge_lora --out_dir`-flagg og det utdaterte `--train.learning_rate` (den ekte CLI-en bruker in-place merge og `--optimizer.lr`), noe no-skill-basen fikk riktig, så skillet ga et mindre korrekt resultat enn basens generelle kunnskap. Full arbeidsflyt krever en GPU pluss gated multi-GB-modellnedlastinger (HF-token/lisens); her ble kun det sjekkbare kode-/konfig-artefaktet testet.
Testet på: 2026-07-12 · Claude Code 2.x (agent harness)
Installer
git clone https://github.com/Orchestra-Research/AI-Research-SKILLs cd AI-Research-SKILLs mkdir -p ~/.claude/skills cp -r 01-model-architecture/litgpt ~/.claude/skills/implementing-llms-litgpt
Kommandoer og eksempelprompter
/implementing-llms-litgptImplementerer og finjusterer LLM-er med LitGPTs rene, enkeltfil-arkitekturer.
Skills utløses av vanlige forespørsler — ingen kommandoer å huske. Etter installasjonen aktiverer prompter som disse skillen (på engelsk):
Fine-tune Llama with LoRA using LitGPTImplement a Qwen model with LitGPT for studySet up QLoRA fine-tuning with LitGPT