Hugging Face Inference SDK

Patrones de inferencia de Hugging Face para TypeScript: streaming, embeddings, errores

Por agents-inc · agents-inc/skills

Probado · Funciona ★ 7.6/10

Hugging Face Inference SDK — Patrones de inferencia de Hugging Face para TypeScript: streaming, embeddings, errores

Qué hace

Una referencia de patrones para el SDK de TypeScript @huggingface/inference que cubre la configuración de InferenceClient, la finalización y transmisión de chat, embeddings, generación de imágenes, transcripción de audio y manejo de errores tipados. Se activa cuando escribes código Node o TypeScript contra modelos de Hugging Face, proveedores de inferencia o Inference Endpoints dedicados. Incluye dos archivos de ejemplo y una referencia de firma de método junto con el cuerpo principal.

Informe de la prueba

Escribimos el mismo módulo de chat en streaming más embeddings dos veces y reproducimos un flujo realista de Hugging Face a través de ambos: la versión sin skill falló con un TypeError en un chunk keepalive con un array de choices vacío, mientras que la versión que seguía el bucle con verificación de nulos de la skill devolvió el texto correcto. El costo es que sus fragmentos se han desviado del SDK enviado —verificado con @huggingface/inference v4.13.23, el manejador de errores documentado (error.request) no compila porque los campos reales son httpRequest/httpResponse, el ejemplo de audio pasa un Buffer de readFileSync donde los tipos exigen un Blob o ArrayBuffer, y textToImage se resuelve a string, no al Blob que prometen los documentos. La instalación es limpia y los tres archivos referenciados (examples/core.md, examples/tasks.md, reference.md) realmente existen.

Probado el: 2026-07-28 · Claude Code 2.x (agent harness)

Instalación

git clone https://github.com/agents-inc/skills.git agents-inc-skills
mkdir -p ~/.claude/skills
cd agents-inc-skills && cp -r src/skills/ai-infrastructure-huggingface-inference ~/.claude/skills/ai-infrastructure-huggingface-inference

Comandos y prompts de ejemplo

  • /ai-infrastructure-huggingface-inferencePatrones de inferencia de Hugging Face para TypeScript: streaming, embeddings, errores

Los skills se activan con peticiones en lenguaje natural, sin comandos que memorizar. Tras instalarlo, prompts como estos lo activan (en inglés):

  • Add streaming chat completion with huggingface/inference to our Node app
  • Generate sentence embeddings from a Hugging Face model in TypeScript
  • Point our TypeScript client at a dedicated Hugging Face Inference Endpoint