SkillProof tested Claude skills

AI/ML Attack Surface

Grep-řízený checklist pro ML deserializaci, prompt injection a načítání nedůvěryhodných modelů

od allsmog · allsmog/vuln-scout

Otestováno · Funguje ★ 8.4/10

AI/ML Attack Surface — Grep-řízený checklist pro ML deserializaci, prompt injection a načítání nedůvěryhodných modelů

Co umí

Jediný referenční soubor pro zabezpečení, který katalogizuje specifické třídy zranitelností AI/ML (nebezpečná deserializace torch/pickle/numpy, prompt injection, Jupyter notebook injection, načítání nedůvěryhodných HuggingFace modelů, poisoning tréninkových dat) s mapováním CWE, připravenými grep detekčními příkazy a bezpečnými alternativami pro každý framework. Spouští se na požadavky AI security, ML pipeline attack, prompt injection, nebo unsafe model loading.

Testovací report

Poskytl jsem mu soubor o 29 řádcích s torch.load, pickle.load, np.load(allow_pickle=True) a f-string vzorem pro prompt-injection; jeho vlastní grep baterie, spuštěná reálně, zachytila všechny 4 reálné problémy (dedikovaný regex pro prompt-injection skutečně minul případ a objevil se pouze přes obecný grep zpráv/systému — skutečná mezera v jeho vlastním navrhovaném příkazu) a mapoval každý hit na CWE plus konkrétní bezpečnou alternativu (weights_only=True, skops.io, safetensors).

Testováno: 2026-07-14 · Claude Code 2.x (agent harness)

Instalace

git clone https://github.com/allsmog/vuln-scout
cd vuln-scout
mkdir -p ~/.claude/skills
cp -r vuln-scout/skills/ai-ml-attacks ~/.claude/skills/ai-ml-attack-surface

Příkazy a ukázkové prompty

  • /ai-ml-attack-surfaceGrep-řízený checklist pro ML deserializaci, prompt injection a načítání nedůvěryhodných modelů

Skilly se spouštějí běžnými požadavky — žádné příkazy k zapamatování. Po instalaci ho aktivují prompty jako tyto (anglicky):

  • Audit this ML codebase for unsafe model deserialization
  • Check our inference service for prompt-injection exposure
  • Scan this repo for untrusted pickle and model-loading risks

Kompletní testovací report (anglicky) →