Implementing LLMs: LitGPT

Implementerer og finjusterer LLM'er med LitGPTs rene, enkeltfils-arkitekturer.

Af Orchestra-Research · Orchestra-Research/AI-Research-SKILLs

Tested · Didn't pass

Implementing LLMs: LitGPT — Implementerer og finjusterer LLM'er med LitGPTs rene, enkeltfils-arkitekturer.

Hvad det gør

Implementerer og træner LLM'er med Lightning AIs LitGPT og 20+ forudtrænede arkitekturer (Llama, Gemma, Phi, Qwen, Mistral). Brug det, når du har brug for rene modelimplementeringer, pædagogisk forståelse af arkitekturer eller produktionsklar finjustering med LoRA/QLoRA. Enkeltfils-implementeringer uden abstraktionslag.

Testrapport

Installerede uden problemer (frontmatter parses, alle fire referencefiler er til stede) og trigger præcist på LitGPT-finjusterings-/arkitekturprompter, selvom dets multi-GPU-pretræningsworkflow overlapper reposets separate torchtitan-skill. A/B på en LoRA-finjustering + merge + inferens-opgave: skillets LoRA-flag var korrekte, men ved trofast at følge SKILL.md arvede det to CLI-unøjagtigheder ift. den rigtige litgpt v0.5.13 CLI — det udskrev et ikke-eksisterende `merge_lora --out_dir`-flag og det forældede `--train.learning_rate` (den rigtige CLI bruger in-place merge og `--optimizer.lr`), begge dele som no-skill-basen fik rigtigt, så skillet producerede et mindre korrekt resultat end grundlæggende almenviden. Det fulde workflow kræver en GPU plus gated multi-GB-modeldownloads (HF-token/licens); her blev det kun testet på det kontrollerbare kode-/konfigurationsartefakt.

Testet: 2026-07-12 · Claude Code 2.x (agent harness)

Installation

git clone https://github.com/Orchestra-Research/AI-Research-SKILLs
cd AI-Research-SKILLs
mkdir -p ~/.claude/skills
cp -r 01-model-architecture/litgpt ~/.claude/skills/implementing-llms-litgpt

Kommandoer og eksempelprompter

  • /implementing-llms-litgptImplementerer og finjusterer LLM'er med LitGPTs rene, enkeltfils-arkitekturer.

Skills udløses af almindelige forespørgsler — ingen kommandoer at huske. Efter installationen aktiverer prompter som disse skillen (på engelsk):

  • Fine-tune Llama with LoRA using LitGPT
  • Implement a Qwen model with LitGPT for study
  • Set up QLoRA fine-tuning with LitGPT