Implementing LLMs: LitGPT

Implementuje a fine-tunuje LLM pomocí čistých, jednosouborových architektur LitGPT.

od Orchestra-Research · Orchestra-Research/AI-Research-SKILLs

Tested · Didn't pass

Implementing LLMs: LitGPT — Implementuje a fine-tunuje LLM pomocí čistých, jednosouborových architektur LitGPT.

Co umí

Implementuje a trénuje LLM pomocí LitGPT od Lightning AI s více než 20 předtrénovanými architekturami (Llama, Gemma, Phi, Qwen, Mistral). Použijte, když potřebujete čisté implementace modelů, edukativní pochopení architektur nebo produkční fine-tuning pomocí LoRA/QLoRA. Jednosouborové implementace, žádné abstrakční vrstvy.

Testovací report

Instalace proběhla čistě (frontmatter se parsuje, všechny čtyři referenční soubory jsou přítomné) a skill se spolehlivě spouští na promptech o LitGPT fine-tuningu/architekturách, i když jeho workflow pro multi-GPU pretraining se překrývá se samostatným skillem torchtitan v tomto repozitáři. A/B na úloze LoRA fine-tune + merge + inference: LoRA přepínače skillu byly správné, ale díky věrnému následování SKILL.md zdědil dvě nepřesnosti CLI oproti reálnému CLI litgpt v0.5.13 — vygeneroval neexistující přepínač `merge_lora --out_dir` a zastaralý `--train.learning_rate` (reálné CLI používá merge na místě a `--optimizer.lr`), což obojí zvládla varianta bez skillu správně, takže skill v tomto případě přinesl méně přesný výsledek než obecné znalosti základního modelu. Celý workflow vyžaduje GPU a stahování multi-GB modelů s omezeným přístupem (HF token/licence); zde bylo testováno jen na ověřitelném artefaktu kódu/konfigurace.

Testováno: 2026-07-12 · Claude Code 2.x (agent harness)

Instalace

git clone https://github.com/Orchestra-Research/AI-Research-SKILLs
cd AI-Research-SKILLs
mkdir -p ~/.claude/skills
cp -r 01-model-architecture/litgpt ~/.claude/skills/implementing-llms-litgpt

Příkazy a ukázkové prompty

  • /implementing-llms-litgptImplementuje a fine-tunuje LLM pomocí čistých, jednosouborových architektur LitGPT.

Skilly se spouštějí běžnými požadavky — žádné příkazy k zapamatování. Po instalaci ho aktivují prompty jako tyto (anglicky):

  • Fine-tune Llama with LoRA using LitGPT
  • Implement a Qwen model with LitGPT for study
  • Set up QLoRA fine-tuning with LitGPT