SkillProof tested Claude skills

AI/ML Attack Surface

Grep-gestützte Checkliste für ML-Deserialisierung, Prompt-Injection und das Laden nicht vertrauenswürdiger Modelle

von allsmog · allsmog/vuln-scout

Getestet · Funktioniert ★ 8.4/10

AI/ML Attack Surface — Grep-gestützte Checkliste für ML-Deserialisierung, Prompt-Injection und das Laden nicht vertrauenswürdiger Modelle

Was es kann

Eine einteilige Sicherheitsreferenz, die KI/ML-spezifische Schwachstellenklassen (unsichere torch/pickle/numpy-Deserialisierung, Prompt-Injection, Jupyter-Notebook-Injection, Laden nicht vertrauenswürdiger HuggingFace-Modelle, Vergiftung von Trainingsdaten) mit CWE-Zuordnungen, sofort ausführbaren Grep-Erkennungsbefehlen und sicheren Alternativen pro Framework katalogisiert. Löst bei Anfragen zu KI-Sicherheit, ML-Pipeline-Angriffen, Prompt-Injection oder unsicherem Modellladen aus.

Testbericht

Habe eine 29-Zeilen-Datei mit torch.load, pickle.load, np.load(allow_pickle=True) und einem f-string Prompt-Injection-Muster gefüttert; die eigene Grep-Batterie, die real ausgeführt wurde, erfasste alle 4 echten Probleme (der dedizierte Prompt-Injection-Regex verpasste tatsächlich den Fall und er tauchte nur über den generischen messages/system grep auf — eine echte Lücke in seinem eigenen vorgeschlagenen Befehl) und ordnete jeden Treffer einem CWE plus einer konkreten sicheren Alternative zu (weights_only=True, skops.io, safetensors).

Getestet am: 2026-07-14 · Claude Code 2.x (agent harness)

Installation

git clone https://github.com/allsmog/vuln-scout
cd vuln-scout
mkdir -p ~/.claude/skills
cp -r vuln-scout/skills/ai-ml-attacks ~/.claude/skills/ai-ml-attack-surface

Befehle & Beispiel-Prompts

  • /ai-ml-attack-surfaceGrep-gestützte Checkliste für ML-Deserialisierung, Prompt-Injection und das Laden nicht vertrauenswürdiger Modelle

Skills reagieren auf normale Anfragen — keine Slash-Befehle nötig. Nach der Installation aktivieren Prompts wie diese den Skill (auf Englisch):

  • Audit this ML codebase for unsafe model deserialization
  • Check our inference service for prompt-injection exposure
  • Scan this repo for untrusted pickle and model-loading risks

Vollständiger Testbericht (Englisch) →