SkillHone Synthesis

Gjør verktøyutforskning om til vanskelige, maskin-graderbare benchmark Q/A i stedet for trivia-oppslag.

av Tencent · Tencent/SkillHone

Bestått ★ 9.6/10

SkillHone Synthesis — Gjør verktøyutforskning om til vanskelige, maskin-graderbare benchmark Q/A i stedet for trivia-oppslag.

Hva den gjør

En metodologisk skill for å bygge lukkede, mekanisk verifiserbare benchmark-spørsmål ved å utforske et verktøymiljø til en gjenbrukbar bevisgraf, deretter utvinne og validere vanskelige (multi-hop, ekskludering/rangering, krysskilde) Q/A-par fra den via en Cartographer/Miner/Validator/Deduper-pipeline. Bruk ved bygging av et evalueringssett, skriving av evalueringsposter, eller generering av verifiserbare svar-datasett fra kallbare verktøy; eksplisitt ikke for åpen skriving eller subjektiv scoring.

Testrapport

Bygde et leketøysdatasett med 6 ansatte og sammenlignet et naivt spørsmål ('what's E003's salary?', direkte lesbart) med et skill-styrt ett ('among Engineering hires before 2022, excluding contractors, who has the second-highest salary?') som tvinger frem en reell filter+ekskluder+ranger-kjede og leveres med et kjørbart verifiseringsutdrag — forskjellen mellom trivia og en faktisk evalueringspost var konkret og reproduserbar.

Testet på: 2026-07-14 · Claude Code 2.x (agent harness)

Installer

git clone https://github.com/Tencent/SkillHone
cd SkillHone
mkdir -p ~/.claude/skills
cp -r skills/skillhone-synthesis ~/.claude/skills/skillhone-synthesis

Kommandoer og eksempelprompter

  • /skillhone-synthesisGjør verktøyutforskning om til vanskelige, maskin-graderbare benchmark Q/A i stedet for trivia-oppslag.

Skills utløses av vanlige forespørsler — ingen kommandoer å huske. Etter installasjonen aktiverer prompter som disse skillen (på engelsk):

  • Help me build a benchmark of verifiable Q&A pairs from this API
  • Generate hard, closed-form eval questions from these tool calls
  • I need eval data with exact-match gradable answers for our agent