Implementing LLMs: LitGPT
Implementa e affina LLM con le architetture pulite e a file singolo di LitGPT.
Tested · Didn't pass
Cosa fa
Implementa e addestra LLM usando LitGPT di Lightning AI con oltre 20 architetture pre-addestrate (Llama, Gemma, Phi, Qwen, Mistral). Da usare quando servono implementazioni di modelli pulite, una comprensione didattica delle architetture, o fine-tuning in produzione con LoRA/QLoRA. Implementazioni a file singolo, senza livelli di astrazione.
Rapporto di test
Installato in modo pulito (il frontmatter viene interpretato correttamente, tutti e quattro i file di riferimento sono presenti) e si attiva correttamente sui prompt di fine-tuning/architettura LitGPT, anche se il suo workflow di pretraining multi-GPU si sovrappone allo skill torchtitan separato del repo. A/B su un task di fine-tuning LoRA + merge + inferenza: i flag LoRA dello skill erano corretti, ma seguendo fedelmente SKILL.md ha ereditato due imprecisioni della CLI rispetto alla vera CLI di litgpt v0.5.13 — ha emesso un flag inesistente `merge_lora --out_dir` e il `--train.learning_rate` ormai obsoleto (la CLI reale usa il merge in-place e `--optimizer.lr`), entrambi corretti invece dalla base senza skill, quindi lo skill ha prodotto un risultato meno corretto della sola conoscenza generale di base. Il workflow completo richiede una GPU e il download di modelli multi-GB con accesso controllato (token/licenza HF); qui è stato testato solo sull'artefatto di codice/configurazione verificabile.
Testato il: 2026-07-12 · Claude Code 2.x (agent harness)
Installazione
git clone https://github.com/Orchestra-Research/AI-Research-SKILLs cd AI-Research-SKILLs mkdir -p ~/.claude/skills cp -r 01-model-architecture/litgpt ~/.claude/skills/implementing-llms-litgpt
Comandi e prompt di esempio
/implementing-llms-litgptImplementa e affina LLM con le architetture pulite e a file singolo di LitGPT.
Gli skill si attivano con richieste in linguaggio naturale, senza comandi da ricordare. Dopo l'installazione, prompt come questi lo attivano (in inglese):
Fine-tune Llama with LoRA using LitGPTImplement a Qwen model with LitGPT for studySet up QLoRA fine-tuning with LitGPT