Embeddings

Genera embeddings vectoriales con Venice para búsqueda semántica, recuperación RAG, clustering y recomendaciones usando el endpoint /embeddings.

Los embeddings convierten texto en vectores que capturan significado semántico. Úsalos para búsqueda, generación aumentada por recuperación (RAG), clustering, recomendaciones, deduplicación y puntuación de similitud.

El endpoint de embeddings de Venice es compatible con OpenAI. Envía una cadena o un arreglo de cadenas a /embeddings y almacena los vectores devueltos en tu base de datos o índice vectorial.

​

Uso básico

Python

import os
from openai import OpenAI

client = OpenAI(
    api_key=os.environ["VENICE_API_KEY"],
    base_url="https://api.venice.ai/api/v1",
)

response = client.embeddings.create(
    model="text-embedding-bge-m3",
    input="Privacy-first AI infrastructure for semantic search",
)

vector = response.data[0].embedding
print(len(vector), vector[:5])

import OpenAI from "openai";

const client = new OpenAI({
  apiKey: process.env.VENICE_API_KEY,
  baseURL: "https://api.venice.ai/api/v1",
});

const response = await client.embeddings.create({
  model: "text-embedding-bge-m3",
  input: "Privacy-first AI infrastructure for semantic search",
});

const vector = response.data[0].embedding;
console.log(vector.length, vector.slice(0, 5));

curl https://api.venice.ai/api/v1/embeddings \
  -H "Authorization: Bearer $VENICE_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "text-embedding-bge-m3",
    "input": "Privacy-first AI infrastructure for semantic search",
    "encoding_format": "float"
  }'

​

Entradas por lotes

Pasa un arreglo de cadenas para generar embeddings de varios textos en una sola solicitud:

{
  "model": "text-embedding-bge-m3",
  "input": [
    "Venice supports private chat completions.",
    "Embeddings help retrieve relevant documents.",
    "Vector search powers RAG applications."
  ]
}

La respuesta conserva el orden de entrada. Almacena cada vector junto con el ID del texto de origen, los metadatos y el ID del modelo de embeddings.

​

Flujo de trabajo común

1. Divide los documentos de origen en fragmentos.
2. Genera embeddings para cada fragmento.
3. Almacena los vectores y metadatos en una base de datos vectorial.
4. Genera el embedding de la consulta del usuario.
5. Recupera los fragmentos cercanos.
6. Envía el contexto recuperado a un modelo de chat.

Para una implementación completa, consulta Crear un bot RAG privado.

​

Selección de modelo

Utiliza la página de Modelos de Embeddings para comparar los modelos de embeddings actuales, sus dimensiones y precios.

Usa el mismo modelo de embeddings para indexar y consultar. Mezclar modelos puede hacer que las puntuaciones de similitud no sean fiables porque los espacios vectoriales no son intercambiables.

​

Recursos relacionados

• API de Embeddings
• Modelos de Embeddings
• Guía del bot RAG privado