Hugging Face Inference SDK

Hugging Face Inference-mönster för TypeScript: streaming, embeddings, fel

av agents-inc · agents-inc/skills

Testad · Fungerar ★ 7.6/10

Hugging Face Inference SDK — Hugging Face Inference-mönster för TypeScript: streaming, embeddings, fel

Vad den gör

En mönsterreferens för @huggingface/inference TypeScript SDK som täcker InferenceClient-setup, chat completion och streaming, embeddings, image generation, audio transcription och typad felhantering. Utlöses när du skriver Node- eller TypeScript-kod mot Hugging Face-modeller, inference providers eller dedikerade Inference Endpoints. Levereras med två exempelfiler och en method-signature-referens tillsammans med huvudtexten.

Testrapport

Vi skrev samma streaming-chat plus embeddings-modul två gånger och spelade upp en realistisk Hugging Face-ström genom båda: no-skill-versionen kraschade med en TypeError på en keepalive-chunk med en tom choices-array, medan versionen som följde skillens null-kontrollerade loop returnerade den korrekta texten. Kostnaden är att dess kodsnuttar har avvikit från den levererade SDK:n – typkontrollerad mot @huggingface/inference v4.13.23, den dokumenterade felhanteraren (error.request) misslyckas med att kompilera eftersom de verkliga fälten är httpRequest/httpResponse, ljudexemplet skickar en readFileSync Buffer där typerna kräver en Blob eller ArrayBuffer, och textToImage löser till string, inte den Blob som dokumentationen lovar. Installationen är ren och alla tre refererade filer (examples/core.md, examples/tasks.md, reference.md) existerar verkligen.

Testad: 2026-07-28 · Claude Code 2.x (agent harness)

Installation

git clone https://github.com/agents-inc/skills.git agents-inc-skills
mkdir -p ~/.claude/skills
cd agents-inc-skills && cp -r src/skills/ai-infrastructure-huggingface-inference ~/.claude/skills/ai-infrastructure-huggingface-inference

Kommandon och exempelprompter

  • /ai-infrastructure-huggingface-inferenceHugging Face Inference-mönster för TypeScript: streaming, embeddings, fel

Skills triggas av vanliga förfrågningar — inga kommandon att memorera. Efter installationen aktiverar prompter som dessa skillen (på engelska):

  • Add streaming chat completion with huggingface/inference to our Node app
  • Generate sentence embeddings from a Hugging Face model in TypeScript
  • Point our TypeScript client at a dedicated Hugging Face Inference Endpoint