Hugging Face Inference SDK
Hugging Face Inference-mönster för TypeScript: streaming, embeddings, fel
Testad · Fungerar
Vad den gör
En mönsterreferens för @huggingface/inference TypeScript SDK som täcker InferenceClient-setup, chat completion och streaming, embeddings, image generation, audio transcription och typad felhantering. Utlöses när du skriver Node- eller TypeScript-kod mot Hugging Face-modeller, inference providers eller dedikerade Inference Endpoints. Levereras med två exempelfiler och en method-signature-referens tillsammans med huvudtexten.
Testrapport
Vi skrev samma streaming-chat plus embeddings-modul två gånger och spelade upp en realistisk Hugging Face-ström genom båda: no-skill-versionen kraschade med en TypeError på en keepalive-chunk med en tom choices-array, medan versionen som följde skillens null-kontrollerade loop returnerade den korrekta texten. Kostnaden är att dess kodsnuttar har avvikit från den levererade SDK:n – typkontrollerad mot @huggingface/inference v4.13.23, den dokumenterade felhanteraren (error.request) misslyckas med att kompilera eftersom de verkliga fälten är httpRequest/httpResponse, ljudexemplet skickar en readFileSync Buffer där typerna kräver en Blob eller ArrayBuffer, och textToImage löser till string, inte den Blob som dokumentationen lovar. Installationen är ren och alla tre refererade filer (examples/core.md, examples/tasks.md, reference.md) existerar verkligen.
Testad: 2026-07-28 · Claude Code 2.x (agent harness)
Installation
git clone https://github.com/agents-inc/skills.git agents-inc-skills mkdir -p ~/.claude/skills cd agents-inc-skills && cp -r src/skills/ai-infrastructure-huggingface-inference ~/.claude/skills/ai-infrastructure-huggingface-inference
Kommandon och exempelprompter
/ai-infrastructure-huggingface-inferenceHugging Face Inference-mönster för TypeScript: streaming, embeddings, fel
Skills triggas av vanliga förfrågningar — inga kommandon att memorera. Efter installationen aktiverar prompter som dessa skillen (på engelska):
Add streaming chat completion with huggingface/inference to our Node appGenerate sentence embeddings from a Hugging Face model in TypeScriptPoint our TypeScript client at a dedicated Hugging Face Inference Endpoint