Hugging Face Inference SDK

Pattern di inferenza Hugging Face per TypeScript: streaming, embeddings, errori

Promosso ★ 7.6/10

Cosa fa

Un riferimento di pattern per l'SDK TypeScript @huggingface/inference che copre la configurazione di InferenceClient, completamento chat e streaming, embeddings, generazione di immagini, trascrizione audio e gestione degli errori tipizzati. Si attiva quando scrivi codice Node o TypeScript contro modelli Hugging Face, provider di inferenza o Inference Endpoints dedicati. Fornisce due file di esempio e un riferimento di firma dei metodi insieme al corpo principale.

Rapporto di test

Abbiamo scritto lo stesso modulo di streaming-chat più embeddings due volte e riprodotto un flusso Hugging Face realistico attraverso entrambi: la versione senza skill è crashata con un TypeError su un chunk keepalive con un array choices vuoto, mentre la versione che seguiva il loop con controllo null della skill ha restituito il testo corretto. Il costo è che i suoi snippet si sono discostati dall'SDK fornito — controllato in base al tipo contro @huggingface/inference v4.13.23, il gestore errori documentato (error.request) non riesce a compilare perché i campi reali sono httpRequest/httpResponse, l'esempio audio passa un Buffer readFileSync dove i tipi richiedono un Blob o ArrayBuffer, e textToImage si risolve in stringa, non nel Blob che i documenti promettono. L'installazione è pulita e tutti e tre i file di riferimento (examples/core.md, examples/tasks.md, reference.md) esistono realmente.

Testato il: 2026-07-28 · Claude Code 2.x (agent harness)

Installazione

git clone https://github.com/agents-inc/skills.git agents-inc-skills
mkdir -p ~/.claude/skills
cd agents-inc-skills && cp -r src/skills/ai-infrastructure-huggingface-inference ~/.claude/skills/ai-infrastructure-huggingface-inference

Comandi e prompt di esempio

/ai-infrastructure-huggingface-inferencePattern di inferenza Hugging Face per TypeScript: streaming, embeddings, errori

Gli skill si attivano con richieste in linguaggio naturale, senza comandi da ricordare. Dopo l'installazione, prompt come questi lo attivano (in inglese):

Add streaming chat completion with huggingface/inference to our Node app
Generate sentence embeddings from a Hugging Face model in TypeScript
Point our TypeScript client at a dedicated Hugging Face Inference Endpoint

Rapporto completo →