Implementing LLMs: LitGPT

Implementeert en fine-tunet LLM's met de overzichtelijke, single-file-architecturen van LitGPT.

Door Orchestra-Research · Orchestra-Research/AI-Research-SKILLs

Tested · Didn't pass

Implementing LLMs: LitGPT — Implementeert en fine-tunet LLM's met de overzichtelijke, single-file-architecturen van LitGPT.

Wat het doet

Implementeert en traint LLM's met Lightning AI's LitGPT, met 20+ voorgetrainde architecturen (Llama, Gemma, Phi, Qwen, Mistral). Gebruik dit wanneer je overzichtelijke modelimplementaties nodig hebt, architecturen educatief wilt doorgronden, of fine-tunet voor productie met LoRA/QLoRA. Single-file-implementaties, geen abstractielagen.

Testrapport

Werd schoon geïnstalleerd (frontmatter parseert, alle vier referentiebestanden aanwezig) en triggert accuraat op LitGPT fine-tuning/architectuur-prompts, al overlapt de multi-GPU-pretrainingsworkflow met de aparte torchtitan-skill van de repo. A/B op een taak met LoRA fine-tune + merge + inference: de LoRA-vlaggen van de skill klopten, maar door SKILL.md trouw te volgen erfde hij twee CLI-onnauwkeurigheden ten opzichte van de echte litgpt v0.5.13 CLI — hij gaf de niet-bestaande vlag `merge_lora --out_dir` en het verouderde `--train.learning_rate` (de echte CLI gebruikt in-place merge en `--optimizer.lr`), beide correct uitgevoerd door de no-skill-basisvariant, waardoor de skill een minder correct resultaat opleverde dan basiskennis zonder skill. De volledige workflow vereist een GPU plus gated multi-GB-modeldownloads (HF-token/licentie); hier is alleen het controleerbare code-/configartefact getest.

Getest op: 2026-07-12 · Claude Code 2.x (agent harness)

Installatie

git clone https://github.com/Orchestra-Research/AI-Research-SKILLs
cd AI-Research-SKILLs
mkdir -p ~/.claude/skills
cp -r 01-model-architecture/litgpt ~/.claude/skills/implementing-llms-litgpt

Commando's en voorbeeldprompts

  • /implementing-llms-litgptImplementeert en fine-tunet LLM's met de overzichtelijke, single-file-architecturen van LitGPT.

Skills reageren op gewone verzoeken — geen commando's om te onthouden. Na installatie activeren prompts zoals deze de skill (in het Engels):

  • Fine-tune Llama with LoRA using LitGPT
  • Implement a Qwen model with LitGPT for study
  • Set up QLoRA fine-tuning with LitGPT