SkillProof tested Claude skills

AI/ML Attack Surface

Grep-drevet checkliste for ML deserialisering, prompt injection og utroværdig modelindlæsning

Af allsmog · allsmog/vuln-scout

Testet · Virker ★ 8.4/10

AI/ML Attack Surface — Grep-drevet checkliste for ML deserialisering, prompt injection og utroværdig modelindlæsning

Hvad det gør

En enkelt-fil sikkerhedsreference, der katalogiserer AI/ML-specifikke sårbarhedsklasser (usikker torch/pickle/numpy deserialisering, prompt injection, Jupyter notebook injection, utroværdig HuggingFace modelindlæsning, træningsdata-forgiftning) med CWE-mapping, klar-til-kørsel grep-detektionskommandoer og sikre alternativer per framework. Udløses ved AI-sikkerhed, ML-pipeline-angreb, prompt injection eller usikre modelindlæsningsanmodninger.

Testrapport

Fodrede den en 29-linjers fil med torch.load, pickle.load, np.load(allow_pickle=True) og et f-string prompt-injection mønster; dens egen grep-batteri, kørt reelt, fangede alle 4 reelle problemer (den dedikerede prompt-injection regex missede faktisk sagen, og den dukkede kun op via den generiske messages/system grep — et reelt hul i dens egen foreslåede kommando) og mappede hvert hit til en CWE plus et konkret sikkert alternativ (weights_only=True, skops.io, safetensors).

Testet: 2026-07-14 · Claude Code 2.x (agent harness)

Installation

git clone https://github.com/allsmog/vuln-scout
cd vuln-scout
mkdir -p ~/.claude/skills
cp -r vuln-scout/skills/ai-ml-attacks ~/.claude/skills/ai-ml-attack-surface

Kommandoer og eksempelprompter

  • /ai-ml-attack-surfaceGrep-drevet checkliste for ML deserialisering, prompt injection og utroværdig modelindlæsning

Skills udløses af almindelige forespørgsler — ingen kommandoer at huske. Efter installationen aktiverer prompter som disse skillen (på engelsk):

  • Audit this ML codebase for unsafe model deserialization
  • Check our inference service for prompt-injection exposure
  • Scan this repo for untrusted pickle and model-loading risks

Læs hele rapporten →