模型運行在你自己的機器上,通過本地端點對外提供服務。你的 PHP / Node / Python 專案可以像調用雲端 API 一樣調用它——只是資料永遠不會離開本機。
在 ServBay 裡選擇一個模型下載,支援斷點續傳,不怕中斷。
模型一旦就緒,即可透過單一本地端點統一暴露,無需任何設定。
將項目指向本地端點,像調用雲端 API 一樣呼叫 embedding 和補全。
一個標準介面,換模型只需改一個名稱。
Ollama 模型庫中的開源模型,一鍵下載即可使用。
……以及 Ollama 庫裡的更多模型
Ollama 庫中的所有開源模型,從 Llama、Qwen 到 DeepSeek、Mistral,一鍵下載、運行。
可以。透過本地端點,你的 PHP / Node / Python 專案可以直接調用 embedding 和補全。
不會。模型和調用全程都在你自己的機器上,資料不會離開本機。