Implementing LLMs: LitGPT
Implementa y realiza fine-tuning de LLMs con las arquitecturas limpias de archivo único de LitGPT.
Tested · Didn't pass
Qué hace
Implementa y entrena LLMs usando LitGPT de Lightning AI con más de 20 arquitecturas preentrenadas (Llama, Gemma, Phi, Qwen, Mistral). Úsala cuando necesites implementaciones de modelos limpias, comprensión educativa de arquitecturas, o fine-tuning de producción con LoRA/QLoRA. Implementaciones de archivo único, sin capas de abstracción.
Informe de la prueba
Se instaló limpiamente (el frontmatter se parsea correctamente, los cuatro archivos de referencia están presentes) y se activa con precisión en prompts de fine-tuning/arquitectura de LitGPT, aunque su flujo de pretraining multi-GPU se solapa con la skill torchtitan independiente del repositorio. A/B en una tarea de fine-tune + merge + inferencia con LoRA: las flags de LoRA de la skill eran correctas, pero al seguir fielmente el SKILL.md heredó dos imprecisiones de CLI respecto a la CLI real de litgpt v0.5.13 — emitió una flag inexistente `merge_lora --out_dir` y la obsoleta `--train.learning_rate` (la CLI real usa merge in-place y `--optimizer.lr`), ambas cosas que el arm sin skill acertó, por lo que la skill produjo un resultado menos correcto que el conocimiento general base. El flujo completo necesita una GPU además de descargas de modelos de varios GB con acceso restringido (token/licencia de HF); aquí solo se probó el artefacto verificable de código/config.
Probado el: 2026-07-12 · Claude Code 2.x (agent harness)
Instalación
git clone https://github.com/Orchestra-Research/AI-Research-SKILLs cd AI-Research-SKILLs mkdir -p ~/.claude/skills cp -r 01-model-architecture/litgpt ~/.claude/skills/implementing-llms-litgpt
Comandos y prompts de ejemplo
/implementing-llms-litgptImplementa y realiza fine-tuning de LLMs con las arquitecturas limpias de archivo único de LitGPT.
Los skills se activan con peticiones en lenguaje natural, sin comandos que memorizar. Tras instalarlo, prompts como estos lo activan (en inglés):
Fine-tune Llama with LoRA using LitGPTImplement a Qwen model with LitGPT for studySet up QLoRA fine-tuning with LitGPT