Hugging Face Inference SDK

Hugging Face Inference-Muster für TypeScript: Streaming, Embeddings, Fehler

von agents-inc · agents-inc/skills

Getestet · Funktioniert ★ 7.6/10

Hugging Face Inference SDK — Hugging Face Inference-Muster für TypeScript: Streaming, Embeddings, Fehler

Was es kann

Eine Musterreferenz für das @huggingface/inference TypeScript SDK, die InferenceClient-Setup, Chat-Vervollständigung und Streaming, Embeddings, Bildgenerierung, Audio-Transkription und typisierte Fehlerbehandlung abdeckt. Wird ausgelöst, wenn Sie Node- oder TypeScript-Code gegen Hugging Face-Modelle, Inference-Provider oder dedizierte Inference Endpoints schreiben. Liefert zwei Beispieldateien und eine Methodensignatur-Referenz neben dem Haupttext.

Testbericht

Wir schrieben dasselbe Streaming-Chat- plus Embeddings-Modul zweimal und spielten einen realistischen Hugging Face-Stream durch beide ab: Die Version ohne Skill stürzte mit einem TypeError bei einem Keepalive-Chunk mit einem leeren Choices-Array ab, während die Version, die der null-geprüften Schleife des Skills folgte, den korrekten Text zurückgab. Der Preis ist, dass seine Snippets vom ausgelieferten SDK abgewichen sind – typgeprüft gegen @huggingface/inference v4.13.23, der dokumentierte Fehlerhandler (error.request) lässt sich nicht kompilieren, da die echten Felder httpRequest/httpResponse sind, das Audio-Beispiel übergibt einen readFileSync Buffer, wo die Typen einen Blob oder ArrayBuffer verlangen, und textToImage löst zu String auf, nicht zu dem Blob, den die Docs versprechen. Die Installation ist sauber und alle drei referenzierten Dateien (examples/core.md, examples/tasks.md, reference.md) existieren wirklich.

Getestet am: 2026-07-28 · Claude Code 2.x (agent harness)

Installation

git clone https://github.com/agents-inc/skills.git agents-inc-skills
mkdir -p ~/.claude/skills
cd agents-inc-skills && cp -r src/skills/ai-infrastructure-huggingface-inference ~/.claude/skills/ai-infrastructure-huggingface-inference

Befehle & Beispiel-Prompts

  • /ai-infrastructure-huggingface-inferenceHugging Face Inference-Muster für TypeScript: Streaming, Embeddings, Fehler

Skills reagieren auf normale Anfragen — keine Slash-Befehle nötig. Nach der Installation aktivieren Prompts wie diese den Skill (auf Englisch):

  • Add streaming chat completion with huggingface/inference to our Node app
  • Generate sentence embeddings from a Hugging Face model in TypeScript
  • Point our TypeScript client at a dedicated Hugging Face Inference Endpoint