SkillProof tested Claude skills

AI/ML Attack Surface

Grep-gedreven checklist voor ML deserialisatie, prompt injectie, en onbetrouwbaar model laden

Door allsmog · allsmog/vuln-scout

Getest · Werkt ★ 8.4/10

AI/ML Attack Surface — Grep-gedreven checklist voor ML deserialisatie, prompt injectie, en onbetrouwbaar model laden

Wat het doet

Een single-file beveiligingsreferentie die AI/ML-specifieke kwetsbaarheidsklassen catalogiseert (onveilige torch/pickle/numpy deserialisatie, prompt injectie, Jupyter notebook injectie, onbetrouwbaar HuggingFace model laden, training-data poisoning) met CWE mappings, direct uitvoerbare grep detectie commando's, en veilige alternatieven per framework. Triggers op AI beveiliging, ML pipeline aanval, prompt injectie, of onveilige model loading verzoeken.

Testrapport

Gevoed met een 29-regelig bestand met torch.load, pickle.load, np.load(allow_pickle=True) en een f-string prompt-injection patroon; de eigen grep batterij, echt uitgevoerd, ving alle 4 echte problemen (de speciale prompt-injection regex miste eigenlijk het geval en het kwam alleen naar voren via de generieke messages/system grep — een echte kloof in het eigen voorgestelde commando) en koppelde elke hit aan een CWE plus een concreet veilig alternatief (weights_only=True, skops.io, safetensors).

Getest op: 2026-07-14 · Claude Code 2.x (agent harness)

Installatie

git clone https://github.com/allsmog/vuln-scout
cd vuln-scout
mkdir -p ~/.claude/skills
cp -r vuln-scout/skills/ai-ml-attacks ~/.claude/skills/ai-ml-attack-surface

Commando's en voorbeeldprompts

  • /ai-ml-attack-surfaceGrep-gedreven checklist voor ML deserialisatie, prompt injectie, en onbetrouwbaar model laden

Skills reageren op gewone verzoeken — geen commando's om te onthouden. Na installatie activeren prompts zoals deze de skill (in het Engels):

  • Audit this ML codebase for unsafe model deserialization
  • Check our inference service for prompt-injection exposure
  • Scan this repo for untrusted pickle and model-loading risks

Volledig rapport (Engels) →