Spark Advisor

Zet Spark History Server metrics om in op ernst beoordeelde skew/GC/shuffle bevindingen met exacte drempelwaarden.

Door yaooqinn · yaooqinn/spark-history-cli

Getest · Werkt ★ 8.4/10

Spark Advisor — Zet Spark History Server metrics om in op ernst beoordeelde skew/GC/shuffle bevindingen met exacte drempelwaarden.

Wat het doet

Spark Advisor is een Claude Code skill die de spark-history-cli CLI aanstuurt tegen een draaiende Spark History Server om trage Spark apps en SQL queries te diagnosticeren, TPC-DS/benchmark runs te vergelijken en tuning aanbevelingen te produceren. Activeer het wanneer de gebruiker vraagt waarom een Spark job of query traag is, twee runs wil vergelijken, of vraagt naar skew, GC pressure, shuffle overhead, spill, of Gluten/Iceberg/Delta-specifieke problemen.

Testrapport

pip install spark-history-cli slaagde echt en de CLI draait, maar deze sandbox heeft geen Java/Spark om een echte History Server op te zetten, dus de diagnostische drempelwaarden (p95/p50>10x skew, GC>20%, shuffle>2x input) werden geverifieerd tegen een beschreven metrics scenario in plaats van een live pull — bewijs, geen geloof. Vermeldenswaard: de repo levert twee SKILL.md kopieën (skills/spark-advisor en spark_history_cli/skills/spark-advisor) en de verpakte is verouderd, mist de Quick Start en SQL Plan Analysis secties die aanwezig zijn in de canonieke top-level kopie die voor installatie wordt gebruikt.

Getest op: 2026-07-14 · Claude Code 2.x (agent harness)

Installatie

git clone https://github.com/yaooqinn/spark-history-cli
cd spark-history-cli
mkdir -p ~/.claude/skills
cp -r skills/spark-advisor ~/.claude/skills/spark-advisor

Commando's en voorbeeldprompts

  • /spark-advisorZet Spark History Server metrics om in op ernst beoordeelde skew/GC/shuffle bevindingen met exacte drempelwaarden.

Skills reageren op gewone verzoeken — geen commando's om te onthouden. Na installatie activeren prompts zoals deze de skill (in het Engels):

  • My Spark job is slow, here's the history server metrics for it
  • This TPC-DS query has bad stage skew, can you diagnose it?
  • GC time is eating my Spark job, help me tune the executors