So sánh OpenRouter: Chi phí token thực tế

Câu trả lời ngắn gọn: cố định tốc độ, sau đó đếm token

Nếu bạn đang tìm kiếm các giải pháp thay thế OpenRouter rẻ hơn những gì bạn đang trả, bước đầu tiên hữu ích là ngừng so sánh logo và bắt đầu so sánh chi phí cho mỗi yêu cầu. Router đa mô hình tính phí theo tốc độ của mô hình mà nó gửi yêu cầu của bạn đến. Điều đó linh hoạt, nhưng điều đó có nghĩa là hóa đơn hàng tháng của bạn phụ thuộc vào việc mỗi lệnh gọi rơi vào mô hình nào và bất kỳ khoản phí nào mà router thêm vào. Hãy kiểm tra trang giá cả hiện tại của router để biết các số liệu đó, vì chúng thay đổi.

Trang web này bán một thứ: một mô hình văn bản trọng số mở, gọi bằng model ID uncensored, với giá $0.15 cho mỗi 1M token đầu vào và $0.50 cho mỗi 1M token đầu ra. Bạn thanh toán từ tín dụng trả trước, không có gói đăng ký, các yêu cầu thất bại hoặc bị từ chối không bị tính phí, và tín dụng không bao giờ hết hạn. Với một mức giá, toàn bộ hóa đơn là phép toán bạn có thể tính trên một chiếc khăn ăn.

Một điều cần nói rõ trước khi đi vào con số: không có gói miễn phí không giới hạn. Người dùng mới có thể nhận $0.50 tín dụng dùng thử bằng một cú nhấp chuột trên trang khóa API, và sau đó bạn nạp tiền. Nếu bạn cần thứ gì đó không tốn phí ở mọi khối lượng, thì đây không phải là nó.

Chi phí cho một yêu cầu

Công thức rất ngắn. Chi phí = token đầu vào x 0.15 / 1.000.000 + token đầu ra x 0.50 / 1.000.000. Dưới đây là bốn dạng yêu cầu phổ biến, được tính toán từ công thức đó.

Loại yêu cầu	Token đầu vào	Token đầu ra	Chi phí mỗi yêu cầu	Chi phí cho 1.000 yêu cầu
Câu hỏi và câu trả lời ngắn	500	300	$0.000225	$0.225
Lượt trò chuyện có lịch sử	6,000	400	$0.0011	$1.10
Tóm tắt tài liệu	30,000	1,000	$0.005	$5.00
Gần đầy cửa sổ ngữ cảnh 100.000 token	98,000	2,000	$0.0157	$15.70

Hãy lấy lượt chat làm phép kiểm tra. 6,000 token đầu vào tốn $0.0009 và 400 token đầu ra tốn $0.0002, cộng lại là $0.0011. Một nghìn lượt như vậy tốn $1.10. Token đầu ra tốn nhiều hơn ba lần so với token đầu vào trên mỗi đơn vị, nhưng hầu hết các yêu cầu gửi đi nhiều hơn những gì nhận lại, nên token đầu vào thường chiếm ưu thế tổng thể.

Cửa sổ ngữ cảnh là 100.000 token, bao gồm prompt và phần hoàn thành. Hàng cuối cùng cho thấy trường hợp xấu nhất cho một lệnh gọi đơn lẻ: khoảng một rưỡi cent. Ngay cả khi mọi yêu cầu lấp đầy cửa sổ ngữ cảnh, 1.000 yêu cầu sẽ tốn $15.70.

Tại sao hóa đơn router khó dự đoán hơn

Router nằm phía trước nhiều mô hình. Mỗi mô hình có tốc độ đầu vào và đầu ra riêng, và router có thể thêm khoản phí dịch vụ của riêng mình. Một số mô hình trên router có giá thấp hơn mỗi token so với chúng tôi, một số mô hình khác lại đắt hơn. Bài viết này không trích dẫn tốc độ của họ vì chúng thay đổi, và bạn nên tự đọc chúng trước khi quyết định.

Những gì bạn có thể nói mà không cần tra cứu là cấu trúc. Khi bạn sử dụng router, ba yếu tố quyết định chi phí của bạn: mô hình bạn đặt trong yêu cầu, số lượng token bạn gửi và nhận, và router tính phí dịch vụ như thế nào. Nếu bạn mã hóa cứng một mô hình, yếu tố đầu tiên được cố định. Nếu bạn để router chọn hoặc dự phòng giữa các mô hình, nó sẽ thay đổi, và hóa đơn cũng vậy.

Một endpoint duy nhất loại bỏ biến đầu tiên và thứ ba khỏi ngân sách của bạn. Đó là khoản tiết kiệm thực sự: không phải lời hứa về giá thấp nhất trên thị trường, mà là một con số không thay đổi. Nếu công việc của bạn cần nội dung không bị từ chối, bạn cũng đang loại bỏ chi phí thử lại của các lệnh gọi mà một mô hình nghiêm ngặt hơn từ chối. Ở đây, các yêu cầu bị từ chối không bị tính phí.

Giảm sử dụng token trước khi cắt nhà cung cấp

Bất kể bạn trả bao nhiêu cho mỗi token, bạn thường có thể giảm số lượng token. Những thay đổi này không tốn kém và hoạt động với bất kỳ endpoint tương thích OpenAI nào.

• Cắt ngắn lịch sử chat. Token đầu vào được gửi lại ở mỗi lượt. Hãy giữ prompt hệ thống, 10 đến 20 tin nhắn cuối cùng và một tóm tắt ngắn gọn về những gì đã xảy ra trước đó. Việc giảm lịch sử 6.000 token xuống còn 3.000 token tiết kiệm $0.00045 cho mỗi lượt, tương đương $0.45 cho 1.000 lượt.
• Rút ngắn prompt hệ thống. Một prompt 1.200 token tốn $0.00018 cho mỗi lần gọi. Cắt nó xuống còn 400 token và bạn tiết kiệm được $0.00012 cho mỗi lần gọi.
• Đặt max_tokens khi bạn biết câu trả lời ngắn. Tùy chọn này không bắt buộc ở đây, nhưng việc đặt giới hạn sẽ bảo vệ bạn khỏi một đoạn văn dài dòng bị tính phí theo tỷ lệ đầu ra cao hơn.
• Sử dụng các chuỗi stop cho đầu ra có cấu trúc để mô hình không tiếp tục viết sau phần bạn cần.
• Yêu cầu chế độ JSON với response_format khi bạn phân tích đầu ra, để bạn không phải trả tiền cho lần gọi thứ hai nhằm sửa định dạng bị hỏng.

Nạp tiền, ưu đãi và dùng thử

Bạn có thể thêm bất kỳ khoản nguyên nào từ $20 đến $500. Các khoản nạp lớn hơn đi kèm với tiền thưởng trên tín dụng bạn nhận được:

• $20 đến $49: không có bonus, vì vậy $20 sẽ cho $20 tín dụng.
• $50 trở lên: +5%, vậy $50 cho $52.50.
• $100 trở lên: +10%, vậy $100 cho $110.
• $200 trở lên: +15%, vậy $200 cho $230, và $500 cho $575.

Bạn có thể thanh toán bằng thẻ (Visa, Mastercard, Apple Pay, Google Pay) hoặc tiền mã hóa (USDT trên TRC20, USDC trên Base). Danh sách đầy đủ các mức giá có trên trang giá cả.

Tín dụng dùng thử là $0.50, có hiệu lực trong 7 ngày, không cần thẻ, mỗi người một lần. Với giá $0.0011 cho mỗi lượt chat, nó bao gồm khoảng 450 lượt, đủ để bạn kiểm tra xem đầu ra có phù hợp với trường hợp sử dụng của bạn hay không. Đăng ký bằng Google hoặc bằng email và mật khẩu, mở trang khóa API và nhận nó bằng một cú nhấp chuột. Các bước được mô tả trên trang khóa API.

So sánh hai nhà cung cấp trên cùng điều kiện

Khi bạn sắp xếp bất kỳ hai tùy chọn nào, hãy sử dụng cùng một tải liệu kiểm thử cho cả hai. Lấy 20 prompt thực từ ứng dụng của bạn, đếm số token đầu vào và đầu ra trung bình và ghi chúng lại. Sau đó điền vào bốn dòng cho mỗi nhà cung cấp: giá đầu vào, giá đầu ra, bất kỳ khoản phí cho mỗi yêu cầu hoặc nền tảng nào, và liệu các yêu cầu bị từ chối hoặc thất bại có được tính phí hay không.

Dòng cuối cùng dễ bị bỏ qua. Nếu một mô hình từ chối 5 trong số 100 yêu cầu và bạn gửi lại chúng, bạn phải trả tiền cho các lần từ chối cộng với các lần thử lại trừ khi nhà cung cấp miễn phí khoản phí đó. Ở đây, các yêu cầu bị từ chối là miễn phí, nên chi phí thử lại bằng không và chỉ yêu cầu thành công được tính phí.

Ngoài ra, hãy so sánh những gì bạn nhận được với số tiền đó. Một mô hình rẻ hơn với cửa sổ ngữ cảnh 8.000 token buộc bạn phải chia tài liệu dài thành các phần và gửi lại các hướng dẫn chia sẻ với mỗi phần. Cửa sổ ngữ cảnh 100.000 token cho phép bạn gửi tài liệu một lần. Đếm token từ đầu đến cuối, bao gồm cả các token lặp lại, chính là yếu tố thể hiện sự khác biệt thực sự.

Ước tính hàng tháng trong mười dòng

Điền các số liệu của riêng bạn vào kịch bản này trước khi cam kết bất cứ điều gì.

CopyIN_RATE = 0.15 / 1_000_000   # dollars per input token
OUT_RATE = 0.50 / 1_000_000  # dollars per output token

def monthly(requests_per_day, in_tokens, out_tokens, days=30):
    per_request = in_tokens * IN_RATE + out_tokens * OUT_RATE
    return per_request * requests_per_day * days

# 3,000 chat turns a day, 6,000 in, 400 out
print(round(monthly(3000, 6000, 400), 2))  # 99.0

Khối lượng công việc đó tốn $99.00 mỗi tháng. Nạp tiền $100 và bạn nhận được $110 tín dụng, đủ để trang trải với một khoản dự phòng. Vì tín dụng không bao giờ hết hạn, số dư chưa dùng sẽ tự động chuyển sang tháng tiếp theo.

Để xem bạn đã chi tiêu bao nhiêu, hãy đọc tiêu đề phản hồi X-Balance-USD trong mỗi lệnh gọi. Nó hiển thị số dư còn lại của bạn, để bạn có thể theo dõi chi tiêu mà không cần bảng điều khiển riêng. Chi tiết thiết lập phía máy khách có trong hướng dẫn nhanh.

Khi nào router vẫn là lựa chọn tốt hơn

Trung thực về mức độ phù hợp sẽ giúp bạn tiết kiệm một lần nạp tiền lãng phí. Router là công cụ tốt hơn khi bạn cần chuyển đổi giữa nhiều mô hình, so sánh đầu ra giữa các nhà cung cấp hoặc muốn một chuỗi dự phòng đa dạng nhà cung cấp. Dịch vụ này cung cấp cho bạn một mô hình từ một nhà cung cấp độc lập và không có gì khác: không tạo hình ảnh, âm thanh hoặc video, không nhúng, không tinh chỉnh.

Nó cũng không phải là API chính thức của bất kỳ nhà cung cấp mô hình nào, và nó không định tuyến giữa các nhà cung cấp. Nếu dự án của bạn cần một mô hình cụ thể có tên từ một phòng thí nghiệm cụ thể, hãy đến phòng thí nghiệm đó hoặc đến một router có nó.

Nơi dịch vụ này phù hợp là hẹp và rõ ràng. Bạn muốn một endpoint tương thích OpenAI, một mô hình trả lời mà không bị từ chối nội dung cho người trưởng thành hợp pháp, một mức giá không thay đổi tùy theo lựa chọn mô hình và sự tự do để rời đi bằng cách thay đổi một URL. Giới hạn cứng là không có nội dung tình dục liên quan đến người chưa thành niên. Các prompt không được sử dụng để huấn luyện.

Hướng dẫn khác

• Giải pháp thay thế OpenRouter cho Janitor AI: Hướng dẫn thiết lập
• Giải pháp thay thế OpenRouter cho các mô hình AI: Một so với Nhiều
• API Perplexity: Cách sử dụng LLM không kiểm duyệt