Implementing LLMs: LitGPT

Implementerer og finjusterer LLM-er med LitGPTs rene, enkeltfil-arkitekturer.

av Orchestra-Research · Orchestra-Research/AI-Research-SKILLs

Tested · Didn't pass

Implementing LLMs: LitGPT — Implementerer og finjusterer LLM-er med LitGPTs rene, enkeltfil-arkitekturer.

Hva den gjør

Implementerer og trener LLM-er med Lightning AIs LitGPT, med 20+ forhåndstrente arkitekturer (Llama, Gemma, Phi, Qwen, Mistral). Bruk når du trenger rene modellimplementasjoner, pedagogisk forståelse av arkitekturer, eller produksjonsklar finjustering med LoRA/QLoRA. Enkeltfil-implementasjoner, ingen abstraksjonslag.

Testrapport

Installerte rent (frontmatter parses, alle fire referansefiler til stede) og trigger presist på LitGPT-finjusterings-/arkitekturprompter, selv om multi-GPU-pretreningsflyten overlapper med repoets separate torchtitan-skill. A/B på en LoRA-finjustering + merge + inferens-oppgave: skillets LoRA-flagg var korrekte, men ved å følge SKILL.md trofast arvet den to CLI-unøyaktigheter mot den ekte litgpt v0.5.13-CLI-en — den brukte et ikke-eksisterende `merge_lora --out_dir`-flagg og det utdaterte `--train.learning_rate` (den ekte CLI-en bruker in-place merge og `--optimizer.lr`), noe no-skill-basen fikk riktig, så skillet ga et mindre korrekt resultat enn basens generelle kunnskap. Full arbeidsflyt krever en GPU pluss gated multi-GB-modellnedlastinger (HF-token/lisens); her ble kun det sjekkbare kode-/konfig-artefaktet testet.

Testet på: 2026-07-12 · Claude Code 2.x (agent harness)

Installer

git clone https://github.com/Orchestra-Research/AI-Research-SKILLs
cd AI-Research-SKILLs
mkdir -p ~/.claude/skills
cp -r 01-model-architecture/litgpt ~/.claude/skills/implementing-llms-litgpt

Kommandoer og eksempelprompter

  • /implementing-llms-litgptImplementerer og finjusterer LLM-er med LitGPTs rene, enkeltfil-arkitekturer.

Skills utløses av vanlige forespørsler — ingen kommandoer å huske. Etter installasjonen aktiverer prompter som disse skillen (på engelsk):

  • Fine-tune Llama with LoRA using LitGPT
  • Implement a Qwen model with LitGPT for study
  • Set up QLoRA fine-tuning with LitGPT