Lớp điều phối thông minh cho AI

Mỗi câu lệnh xứng đáng
với mô hình phù hợp.

Valefront là bộ định tuyến LLM: một API tương thích OpenAI, chuyển mỗi yêu cầu đến mô hình phù hợp giữa nhiều nhà cung cấp theo tác vụ, chất lượng, chi phí và độ trễ, kèm dự phòng tự động. Valefront cũng tương thích Anthropic: chỉ cần trỏ SDK bạn đang dùng tới https://llm.valefront.com.

ứng dụng của bạnPOST /v1/chat/completions
{ "model": "auto",
  "messages": [{ "role": "user", "content": "Summarize this call" }] }
Valefront markMint rounded-square outline with a blue and mint dotted cross and blue center diamond.
ValefrontBỘ ĐỊNH TUYẾN
ví dụ định tuyếnMINH HỌA
BytePlus Seed logoSeed 2.0 LiteBytePlus
DeepSeek V4 FlashBytePlus
Dola Seed 2.0 MiniBytePlus
MỤC ĐÍCH · CHẤT LƯỢNG · CHI PHÍ · ĐỘ TRỄ — ĐỊNH TUYẾN THỜI GIAN THỰC

Định tuyến thông minh hơn.
Đội ngũ của bạn đỡ việc hơn.

Không cần cố định mô hình trong mã nguồn. Valefront hiểu mỗi yêu cầu cần gì và định tuyến nó với sự cân bằng phù hợp giữa chất lượng, tốc độ và chi phí.

Định tuyến theo mục đích

Ghép mỗi câu lệnh với mô hình xử lý tốt nhất độ phức tạp, ngữ cảnh và định dạng của nó. Đặt quy tắc một lần, điều chỉnh khi nhu cầu thay đổi.

Tận dụng từng token

Chọn mô hình rẻ nhất vẫn đạt chuẩn chất lượng của bạn. Dành mô hình cao cấp cho những lúc thật sự cần.

Luôn ổn định

Dự phòng tự động giúp sản phẩm của bạn luôn phản hồi khi một nhà cung cấp chậm lại hoặc một điểm cuối ngừng hoạt động.

Một điểm cuối.
Toàn bộ các mô hình của bạn.

Giữ nguyên API bạn đã quen. Trỏ ứng dụng tới Valefront để chuyển đổi, so sánh hoặc kết hợp nhà cung cấp mà không phải viết lại phần tích hợp.

Xem hướng dẫn nhanh
OpenAI-compatible · Anthropic (Messages)
# OpenAI-compatible
curl https://llm.valefront.com/v1/chat/completions \
  -H 'Authorization: Bearer $VALEFRONT_KEY' \
  -H 'Content-Type: application/json' \
  -d '{"model":"auto","messages":[{"role":"user","content":"Hello"}]}'

# Anthropic (Messages)
curl https://llm.valefront.com/v1/messages \
  -H 'x-api-key: $VALEFRONT_KEY' \
  -H 'anthropic-version: 2023-06-01' \
  -H 'Content-Type: application/json' \
  -d '{"model":"seed-2-0-lite-260428","max_tokens":64,"messages":[{"role":"user","content":"Hello"}]}'

const ai = new OpenAI({
  baseURL: 'https://llm.valefront.com/v1',
  apiKey: process.env.VALEFRONT_KEY,
});

const answer = await ai.chat.completions.create({
  model: 'auto',  // Valefront picks the right fit
  messages: [{ role: 'user', content: prompt }],
});

Giải đáp rõ ràng về Valefront.

Valefront là gì?

Valefront là bộ định tuyến LLM, cung cấp một API tương thích OpenAI để gửi yêu cầu tới mô hình phù hợp giữa nhiều nhà cung cấp.

Định tuyến chọn mô hình thế nào?

Bộ định tuyến xét tác vụ, yêu cầu chất lượng, chi phí và độ trễ của yêu cầu, rồi chọn mô hình phù hợp và có thể tự động dự phòng.

Hỗ trợ những nhà cung cấp nào?

Valefront định tuyến giữa các nhà cung cấp mà dịch vụ đã tích hợp; tình trạng hiện tại của từng nhà cung cấp hiển thị trên bảng điều khiển.

API có tương thích OpenAI không?

Có. Valefront cung cấp API tương thích OpenAI, nên các ứng dụng tương thích chỉ cần dùng một điểm cuối.

Valefront có hỗ trợ Anthropic Messages không?

Có. Valefront tương thích cả OpenAI và Anthropic: trỏ SDK nào cũng được tới https://llm.valefront.com.

Bắt đầu thế nào?

Đăng ký trên bảng điều khiển Valefront, rồi trỏ ứng dụng của bạn tới địa chỉ API của Valefront.

Valefront tính phí thế nào?

Dùng bao nhiêu trả bấy nhiêu, không cộng thêm phí: bạn trả đúng giá chính thức của từng nhà cung cấp theo token. Tài khoản mới được tặng token miễn phí. Giá từng mô hình hiển thị trên bảng điều khiển.

Mở cho mọi người · không cần thẻ

Bắt đầu chỉ trong vài phút.

Tạo tài khoản miễn phí và nhận 1.000.000 token miễn phí, thêm 4.000.000 token sau lần nạp tiền đầu tiên, dùng trong 30 ngày. Sau đó trả đúng giá chính thức của từng nhà cung cấp, không cộng thêm phí.

  1. 1Đăng ký trên bảng điều khiển
  2. 2Sao chép khóa API
  3. 3Trỏ SDK của bạn tới Valefront
app.py
from openai import OpenAI

client = OpenAI(
    base_url="https://llm.valefront.com/v1",
    api_key="vf_...",
)
reply = client.chat.completions.create(
    model="auto",
    messages=[{"role": "user", "content": "Hello"}],
)
Chỉ đổi hai dòng. Mọi thứ khác giữ nguyên.
Bạn là nhà cung cấp mô hình? Đưa mô hình của bạn đến lập trình viên khắp Việt Nam và Đông Nam Á qua một API.
Hợp tác với Valefront →