Model tempatan · Percuma

Jalankan model AI pada mesin anda sendiri

Muat turun dan jalankan model Ollama dengan satu klik. Projek ini memanggil embedding dan pelengkapan terus melalui satu endpoint tempatan—tanpa kunci, tanpa kos, dan tidak keluar dari mesin tempatan.

Jalankan model AI pada mesin anda sendiri

Model tempatan, satu titik akhir terus ke projek anda

Model dijalankan pada mesin anda sendiri dan didedahkan melalui satu endpoint tempatan. Projek PHP / Node / Python anda boleh memanggilnya seperti API awan—hanya data tidak pernah meninggalkan mesin tempatan.

Projek anda
PHP · Node · Python
Titik akhir tempatan
Pintu Masuk API Bersepadu
Model Ollama
Berjalan di mesin anda

Tiga langkah untuk menggunakan model tempatan

1

Muat turun sekali tekan

Pilih satu model untuk dimuat turun dalam ServBay, sokong sambungan semula jika terputus, tidak perlu risau gangguan.

2

Dedahkan titik akhir secara automatik

Sebaik sahaja model sedia, ia akan didedahkan melalui satu titik akhir tempatan secara seragam tanpa sebarang konfigurasi.

3

Panggilan langsung projek

Arahkan projek ke titik akhir tempatan dan panggil embedding serta pelengkapan seperti memanggil API awan.

Apa yang anda akan dapat

Muat turun model dengan satu klik, sokongan untuk sambungan semula jika terputus
Model tempatan didedahkan melalui satu titik akhir yang seragam
Memanggil embedding dan pelengkapan dalam projek PHP / Node / Python
Tanpa kunci, tanpa kos, data tidak keluar dari peranti anda
[Siaran Bersama Versi] Sokongan untuk llama.cpp dan MLX akan datang tidak lama lagi

Panggil model tempatan seperti memanggil API awan

Satu antara muka piawai, hanya tukar satu nama untuk menukar model.

ServBay · localhost:11434
# Panggil model tempatan, sama seperti API awan
curl http://localhost:11434/v1/chat/completions \
-d '{"model": "llama3", "messages": […]}'
# Tukar model? Hanya ubah nama model
"model": "qwen2"

Model sumber terbuka arus perdana yang boleh dijalankan pada mesin ini

Model sumber terbuka dalam pustaka model Ollama, boleh dimuat turun dan digunakan dengan satu klik.

Llama
Qwen
DeepSeek
Mistral
Gemma
Phi

...serta lebih banyak model dalam pustaka Ollama

Soalan Lazim

Model apa yang boleh dijalankan?

Semua model sumber terbuka dalam pustaka Ollama, dari Llama, Qwen hingga DeepSeek, Mistral, boleh dimuat turun dan dijalankan dengan satu klik.

Bolehkah projek tempatan dipanggil secara langsung?

Boleh. Melalui satu titik akhir tempatan, projek PHP / Node / Python anda boleh terus memanggil embedding dan pelengkapan.

Adakah data akan dimuat naik?

Tidak. Model dan pemanggilan dijalankan sepenuhnya pada mesin anda sendiri, data tidak akan keluar dari peranti anda.

Muat turun percuma

ServBay AI Helper
ServBay AI Helper