Hugging Face Inference SDK

Hugging Face Inference-mønstre for TypeScript: streaming, embeddings, fejl

Af agents-inc · agents-inc/skills

Testet · Virker ★ 7.6/10

Hugging Face Inference SDK — Hugging Face Inference-mønstre for TypeScript: streaming, embeddings, fejl

Hvad det gør

En mønsterreference for @huggingface/inference TypeScript SDK, der dækker InferenceClient-opsætning, chat-komplettering og streaming, embeddings, billedgenerering, lydtransskription og typiseret fejlhåndtering. Udløses, når du skriver Node- eller TypeScript-kode mod Hugging Face-modeller, inference-udbydere eller dedikerede Inference Endpoints. Leveres med to eksempelfiler og en metode-signaturreference sammen med hovedteksten.

Testrapport

Vi skrev den samme streaming-chat plus embeddings-modul to gange og afspillede en realistisk Hugging Face-stream gennem begge: no-skill-versionen crashede med en TypeError på en keepalive-chunk med en tom choices array, mens versionen, der fulgte skill'ens null-checked loop, returnerede den korrekte tekst. Omkostningen er, at dens snippets er drevet væk fra den leverede SDK — type-tjekket mod @huggingface/inference v4.13.23, den dokumenterede fejlhåndtering (error.request) kompilerer ikke, fordi de virkelige felter er httpRequest/httpResponse, lyd-eksemplet sender en readFileSync Buffer, hvor typerne kræver en Blob eller ArrayBuffer, og textToImage løser til string, ikke den Blob, dokumentationen lover. Installationen er ren, og alle tre refererede filer (examples/core.md, examples/tasks.md, reference.md) eksisterer virkelig.

Testet: 2026-07-28 · Claude Code 2.x (agent harness)

Installation

git clone https://github.com/agents-inc/skills.git agents-inc-skills
mkdir -p ~/.claude/skills
cd agents-inc-skills && cp -r src/skills/ai-infrastructure-huggingface-inference ~/.claude/skills/ai-infrastructure-huggingface-inference

Kommandoer og eksempelprompter

  • /ai-infrastructure-huggingface-inferenceHugging Face Inference-mønstre for TypeScript: streaming, embeddings, fejl

Skills udløses af almindelige forespørgsler — ingen kommandoer at huske. Efter installationen aktiverer prompter som disse skillen (på engelsk):

  • Add streaming chat completion with huggingface/inference to our Node app
  • Generate sentence embeddings from a Hugging Face model in TypeScript
  • Point our TypeScript client at a dedicated Hugging Face Inference Endpoint