最後更新
Uncensored AI:Ollama 與託管 API 模型比較
無審查 AI 模型移除了標準內容過濾器,允許針對成人主題、創意角色扮演與安全研究進行不受限制的生成。本指南比較本地的 Ollama 設定與我們託管的 OpenAI 相容 API,協助您根據需求選擇合適的基礎設施。
摘要
- Abliterated 模型降低了拒絕頻率,但可能會引入偏見,而真正的無審查模型則完全移除了約束。
- 本地 Ollama 提供隱私且無持續性成本,但需要硬體和手動管理。
- 我們的託管 API 提供穩定的 OpenAI 相容端點,具有 100k 上下文視窗和僅限加密貨幣的預付計費。
- Token 計費確保您只為實際使用付費,錯誤與拒絕的情況計為免費 Token。
了解 Abliterated 與非審查模型
Abliterated 模型經過特定的訓練過程,移除模型說「不」的能力,而不改變其核心知識。這通常會減少拒絕次數,同時保持比標準微調更好的連貫性。然而,一些 Abliterated 模型在邊緣情況下仍可能表現出隱藏的偏差或拒絕模式。
真正無審查模型完全移除了限制。它們會為合法的成人用途、爭議性主題和安全研究生成內容,毫不猶豫。這種區別很重要,因為 abliteration 是一種技術,而無審查是一種行為結果。
主要差異
- Abliterated: 降低拒絕機率,可能存在偏差,需要特定訓練。
- 無審查: 無內容限制,行為一致,部署更簡單。
在線上搜尋 uncensored LLM 時,請在您的特定使用案例中驗證模型的行為,而不僅依賴訓練方法的名稱。
取捨:本地 Ollama 與託管 API
本地 Ollama 設定讓你完全掌控模型權重和隱私,而託管 API 則提供便利性、較低的延遲且無需管理硬體。在本地運行 Ollama 需要足夠的 RAM 和 VRAM,這在較舊的機器上可能會成為限制。
對於硬體資源有限的用戶,託管 API 可讓您立即存取強大的模型。我們的 API 透過標準的 OpenAI 相容端點提供無審查的大型語言模型。您只需在現有的客戶端程式碼中更改基礎 URL 和 API 金鑰即可。
比較
| 功能 | 本地 Ollama | 託管式 API |
|---|---|---|
| 硬體 | 需要您的 GPU/RAM | 無需 |
| 延遲 | 取決於本地硬體 | 最佳化網路路徑 |
| 成本 | 電力 + 硬體 | 按 token 付費 |
若重視資料隱私和無限使用量,請選擇本地部署。若重視整合的便利性和一致的效能,請選擇託管服務。
上下文窗口與 token 限制說明
上下文窗口大小決定了模型在單一請求中能處理多少文字。我們的 API 支援 100,000 token 的上下文窗口,允許處理長文件或 extensive 對話歷史。每次請求的最大輸出為 16,000 tokens,這足以滿足大多數生成任務。
如果您未指定 max_tokens 參數,模型預設為 2,048 個 token。此限制可防止產生意外長的回應,從而避免產生較高成本或逾時錯誤。
Token 管理
- 輸入: 計入 100k 限制內。
- 輸出: 每次請求上限為 16k。
- 串流: 透過 SSE 支援即時 token 顯示。
了解 token 使用有助於您最佳化提示詞並避免不必要的 API 呼叫。錯誤和拒絕不會消耗您的預付額度,確保您只為有效的回應付費。
定價模型:訂閱 vs 預付
訂閱模式每月收取固定費用,無論使用量如何,對於間歇性開發者來說效率不高。預付模式根據實際 token 消耗收費,提供更多成本掌控權。我們的 API 採用預付模式,按實際 token 用量收費。
定價設定為每百萬個輸入 token $0.15,每百萬個輸出 token $0.50。無月費或訂閱費。您的信用額度永不過期,且您可以隨時充值。
充值選項
- 僅限加密貨幣: USDT (TRC20) 或 USDC (Base)。
- 金額: $20 to $500 per transaction.
- 贈金: $50 贈送 +5%, $100 贈送 +10%, $200 贈送 +15%。
此模型消除了共享層級的不確定性,確保您只為實際使用的內容付費。
使用案例:角色扮演、編碼與數據提取
無審查模型在角色扮演中表現優異,允許不受限制的角色互動和成熟主題。它們在編碼任務中也很有效,因為標準模型可能會因為感知到的安全風險而拒絕生成程式碼。資料提取受益於缺乏內容過濾,允許模型返回原始資料而無需摘要或拒絕。
支援的功能
- 串流: 透過 SSE 即時輸出權杖。
- JSON 模式: 用於資料提取的嚴格 JSON 輸出。
- 函式呼叫: 支援動態互動的工具。
我們的 API 支援 temperature、top_p、stop、seed 和 penalty 參數以微調生成。這種靈活性允許開發者針對特定用例優化輸出,從創意寫作到技術數據處理。
延遲與可靠性考量
延遲取決於基礎設施與網路路徑。像我們這樣的託管 API 針對低延遲進行了優化,提供一致的回應時間。本地 Ollama 的延遲則取決於您的硬體,例如 CPU 核心或 GPU 記憶體頻寬。
透過我們的基礎設施確保可靠性。我們將每個金鑰的請求限制為每分鐘 300 次,並允許 8 個併發請求。這可防止資源耗盡,並確保大多數應用程式的穩定效能。
效能建議
- 串流: 使用 SSE 在生成時顯示 token。
- JSON 模式: 減少數據提取的後處理時間。
- 並行處理: 管理每個金鑰最多 8 個並行請求。
我們的 API 專為需要可靠、即插即用無審查文字生成 API 的開發者而設計,該 API 與現有的 OpenAI SDK 相容。
隱私:訓練資料與使用政策
隱私是許多使用者關注的重點。我們的 API 不會將您的提示用於訓練。帳戶只需電子郵件地址即可建立,確保了最少的資料收集。這與某些可能會使用資料進行模型改進的免費方案形成對比。
我們維持嚴格的内容限制:涉及未成年人的性內容一律拒絕。所有其他合法的成人內容皆允許。此政策確保合規性,同時維持無審查的體驗。
隱私功能
- 無訓練: 提示詞不用於訓練。
- 最小化資料: 帳戶註冊僅需電子郵件。
- 退款政策: 餘額不會退還,但永不過期。
此方法吸引重視直接存取與隱私勝過行銷聲譽的用戶。您保留對資料與使用的控制權。
選擇合適的無審查 AI 解決方案
選擇本地部署與託管解決方案之間的取決於您的硬體、隱私需求及使用模式。本地 Ollama 適合擁有強大硬體且希望完全掌控的使用者。託管 API 則更適合偏好便利性與擴展性的開發者。
我們的 API 透過標準 OpenAI 相容端點提供單一無審查開放權重模型。這消除了模型路由的複雜性以及共享層級的不確定性。我們僅支援加密貨幣付款以確保隱私和低延遲。
決策因素
- 硬體: 您有足夠的 RAM/VRAM 嗎?
- 便利性: 您偏好即插即用整合嗎?
- 成本: Is prepaid token billing more efficient?
以 $0.50 的試用額度開始,測試 API。
常見問題
無審查 LLM API 與 OpenAI SDK 相容嗎?
是的,我們的 API 完全與 OpenAI 相容。您可以透過將基礎 URL 變更為 HTTPS://api.uncensoredllmollama.com/v1 並提供您的 API 金鑰,在官方的 OpenAI SDK 或任何與 OpenAI 相容的客戶端中使用它。要發送的模型 ID 為 "uncensored"。
API 的加密貨幣專屬定價方式為何?
您可以使用 USDT (TRC20) 或 USDC (Base) 為帳戶儲值,金額介於 $20 至 $500 之間。您將根據金額獲得贈金:儲值 $50 贈 +5%,儲值 $100 贈 +10%,儲值 $200 贈 +15%。信用額度永不過期,並根據實際 token 使用量計費。
上下文視窗與輸出限制為何?
API 支援 100,000 token 的上下文視窗,包含提示和完成內容。每次請求的最大輸出為 16,000 token。如果您未設定 max_tokens,預設輸出限制為 2,048 token。
您會將用戶提示詞用於訓練數據嗎?
我們不使用您的提示進行訓練。帳戶只需電子郵件地址,確保收集最少的數據。此政策確保您的使用數據保持私密,且不會用於改進模型。
立即取得 API 金鑰
註冊、複製您的金鑰、更新基礎網址。只需少量設定。