繁中 ▾
取得 API 金鑰

OpenRouter 替代方案:單一模型與多模型

路由器讓你透過單一金鑰獲得多個模型。單一端點則讓你以單一價格取得單一模型。哪一種更好,取決於你更看重選擇性還是可預測性,本頁將兩者的情況都列出來。

更新於

等距場景,對比多條軌道的分支交匯點與通往單一發光立方體的單一路線

重點摘要

  1. 路由器適合需要比較或切換多個模型的團隊。
  2. 單一端點適合需要穩定行為和穩定帳單的應用程式。
  3. 若每天處理 10,000 個請求,每個請求包含 1,500 個輸入 token 和 500 個輸出 token,月費為 $142.50。
  4. 在兩者之間切換主要是更改 Base URL、金鑰和模型名稱。

從試用額度開始

電子郵件和密碼,金鑰立即顯示在畫面上。

取得 API 金鑰

簡短答案

如果你正在尋找 OpenRouter 的替代方案來使用 AI 模型,首先請決定你想要解決的問題。如果問題在於你需要更多選擇,路由器已經是正確的架構,你應該繼續使用路由器。如果問題在於你的帳單和模型行為不斷變化,單一固定的端點會是更好的選擇。

本網站提供第二種選項:單一開放權重文字模型,使用 ID uncensored 呼叫,輸入 token 每 1M 個 $0.15,輸出 token 每 1M 個 $0.50。它與 OpenAI 相容,因此你為路由器編寫的程式碼只需更改 Base URL 和金鑰即可沿用。它不是跨供應商的路由器,也不是任何模型製造商的官方 API。

路由器的優勢

路由器(如 OpenRouter)通過一個 OpenAI 風格的 API 暴露來自不同實驗室的多個模型。你可以在每個請求中按名稱選擇模型。這具有真正的優勢,忽略它們是不公平的。

  • 廣度。 你可以透過更改一個字串來測試新推出的模型。
  • 比較。 在五個模型上運行相同的提示詞是一個循環,而不是五個集成。
  • 後備。 如果一個模型速度慢或宕機,路由器可以根據你的配置將流量發送到另一個模型。
  • 單一帳戶。 單一帳戶餘額與發票,涵蓋你嘗試的所有服務。

對於研究、評估工作和確實需要為每項任務選擇最佳模型的產品,這些考量比以下任何內容都重要。請查看路由器的目前費率與模型列表以獲取詳細資訊。

這種靈活性也有成本,主要消耗的是你的注意力。由於有數十種模型可供使用,必須有人決定由哪種模型處理每項任務,在新版本推出時進行測試,並留意品質的變化。小型團隊花在選擇模型上的時間,往往比改善產品還多。路由器讓你將選擇延後,但並不會替你做出選擇,而由混合模型組成的帳單在預測和向付款方解釋時需要額外的心力。

單一固定模型的強項

取捨在於你放棄選擇並換回一致性。

  • 每次呼叫行為一致。 你上週調整過的提示詞,這週的行為依然相同。使用路由器時,模型更新或故障轉移可能會在不改變程式碼的情況下,改變語氣、長度或拒絕行為。
  • 單一價格。 有一個單一輸入費率和單一輸出費率。沒有需要追蹤的每模型價格表。
  • 拒絕不計費。 失敗或遭拒絕的請求不會計費。
  • 長上下文視窗。 100,000 個 token 的上下文,包含提示詞與完成內容合計,適用於每個請求。
  • 針對合法成人用途調校,不會拒絕內容。對於小說、伴侶應用程式和內容審核研究而言,這消除了某一類型的錯誤。硬性限制是不包含涉及未成年人的性內容。

該模型支援串流輸出、工具呼叫、JSON 模式以及常見的採樣參數(temperature、top_p、stop、seed、penalties)。它不支持圖像、音頻、視頻、嵌入或微調。

並排

問題多模型路由器此單一端點
模型數量多個,依請求選擇一個,模型 ID uncensored
計費結構依模型計費;請查看其目前費率$0.15 / 1M 輸入,$0.50 / 1M 輸出
隨時間變化的行為取決於你選擇或備援的模型每次呼叫使用相同模型
內容拒絕取決於模型針對合法成人用途調整以進行回答
與 OpenAI 相容是是:聊天完成和模型列表
影像、音訊、嵌入向量取決於模型不可用
訂閱制請查閱其條款無過期時間;預付額度,永不過期

請將該表視為地圖而非判決。路由器欄位在數個欄位顯示「取決於」,這正是重點:靈活性意味著變異性。

可預測定價的樣子

考慮一個每天處理 10,000 個請求的應用程式,每個請求包含 1,500 個輸入 token 和 500 個輸出 token。

輸入請求成本:1,500 x $0.15 / 1M = $0.000225。輸出成本:500 x $0.50 / 1M = $0.00025。總計:每個請求 $0.000475。乘以 10,000 個請求,每天為 $4.75,30 天為 $142.50。

計算公式永遠不會改變。如果流量翻倍,帳單翻倍。如果你將輸出長度減半,只有輸出部分縮小。你可以將公式放入電子表格進行預測,這在費率取決於運行時選擇的模型時很難做到。

儲值金額從 $20 到 $500 不等,獎勵為:$50 起 +5%,$100 起 +10%,$200 起 +15%。$200 的儲值提供 $230 的額度,足以覆蓋每天 $4.75 的工作量約 48 天。詳情見 定價頁面。

在兩者之間切換

由於兩者都使用 OpenAI 協議,請將端點視為配置。將 Base URL、金鑰和模型保留在環境變量中,你可以將相同的代碼指向其中一個。

import os
from openai import OpenAI

client = OpenAI(
    base_url=os.environ.get("LLM_BASE_URL", "https://api.openrouterapi.cc/v1"),
    api_key=os.environ["LLM_API_KEY"],
)

reply = client.chat.completions.create(
    model=os.environ.get("LLM_MODEL", "uncensored"),
    messages=[{"role": "user", "content": "Summarise this ticket in two lines."}],
)
print(reply.choices[0].message.content)

這讓你可以並行運行兩者:將大部分流量發送到固定端點,並保留路由器金鑰進行實驗。在小部分流量上進行 A/B 測試,比較答案質量和每項任務的成本,然後做出決定。快速入門涵蓋了相同的逐步遷移步驟。

三個場景

伴侶或角色扮演應用。 用戶希望角色在幾個月內保持語音。模型切換或無聲後備會在一夜之間改變性格,拒絕會破壞沉浸感。具有調整過提示詞的固定模型更容易保持穩定,且按 token 計價使計劃定價計算變得簡單。

內部分類和起草工具。 支持票證、內容標記、初稿回覆。在這裏,在你自己的數據上的準確性很重要,且每張票證的成本必須已知。如果固定模型能完成工作,單一價格更簡單。如果不同模型在你的標記樣本上表現明顯更好,路由器憑實力勝出。

評估或研究項目。 你正在比較模型,這正是路由器構建的目的。單一端點僅在比較中添加一個條目,無其他。

在依賴任何供應商之前應詢問的問題

無論你選擇路由器或單一端點,都應向每個端點提出相同問題,並記錄答案。

  • 計費項目為何:僅限 token,還是包含額外費用?失敗的請求會收費嗎?
  • 每個 API 金鑰的速率限制為何?429 錯誤為何?此處完整金鑰允許 8 個並行請求和每分鐘 300 個請求,錯誤程式碼為 rate_limited 和 concurrency。
  • 你將使用的模型最大上下文視窗是多少?此處為 100,000 個 token,包含提示詞與完成內容。
  • 提示詞是否用於訓練?此處不會。
  • 如何退出?透過 OpenAI 相容 API,只需更改設定即可,這是最理想的防鎖定保護。

能清楚回答這些問題的供應商,比僅用行銷頁面回答的供應商更容易規劃。金鑰頁面與支援頁面在此直接說明其規定。

如何選擇

若你的產品價值取決於為每個任務使用最佳模型、定期評估模型,或需要從同一帳戶取得影像或嵌入端點,請選擇路由器。若你的工作負載為文字對話、角色扮演、草稿撰寫、分類或在不拒絕合法成人請求的模型上進行工具呼叫,且你重視帳單穩定性,請選擇單一端點。

許多團隊會合理地同時使用兩者。嘗試的成本很低:新帳戶可以領取 $0.50 的試用金,有效期為 7 天且無需綁定信用卡,你可以執行數百次請求來自行評估輸出結果。API 金鑰頁面會引導你完成註冊。

問答

這是用於多個 AI 模型的路由器嗎?

不是。它提供單一開放權重模型,模型 ID 為 uncensored,由獨立供應商運行。它不會跨供應商路由。

我現有的 OpenAI 程式碼可以運作嗎?

是的,適用於聊天完成和模型列表。將 Base URL 變更為 https://api.openrouterapi.cc/v1, 以使用你的金鑰,並將模型設為 uncensored。

是否支援函式呼叫和 JSON 模式?

是的。支援工具、tool_choice、串流輸出的工具呼叫以及 response_format 為 json_object。

有月費嗎?

無訂閱制。你按 token 付費,從預付額度扣款,且額度永不過期。

只需填寫一個表單即可取得金鑰

建立帳號、複製金鑰、更改基礎 URL。這就是整個設定過程。

取得 API 金鑰