Model lokalny · Bezpłatnie

Uruchamiaj modele AI na własnym komputerze

Jedno kliknięcie, aby pobrać i uruchomić modele Ollama. Projekt wywołuje embedding i uzupełnianie bezpośrednio przez lokalny endpoint — bez klucza, bez kosztów, bez opuszczania urządzenia.

Uruchamiaj modele AI na własnym komputerze

Lokalny model, jedno wejście bezpośrednio do Twojego projektu

Model działa na Twoim własnym komputerze i jest udostępniany przez lokalny endpoint. Twój projekt PHP / Node / Python wywołuje go tak, jakby korzystał z chmurowego API — z tą różnicą, że dane nigdy nie opuszczają Twojego urządzenia.

Twój projekt
PHP · Node · Python
Lokalny punkt końcowy
Ujednolicone wejście API
Model Ollama
Uruchomione na Twoim urządzeniu

Trzy kroki, aby korzystać z lokalnego modelu

1

Pobierz jednym kliknięciem

Wybierz model do pobrania w ServBay, obsługuje wznawianie pobierania, nie musisz się martwić o przerwy.

2

Automatyczne udostępnianie punktów końcowych

Model jest gotowy i udostępniany przez jeden lokalny punkt końcowy bez konieczności konfiguracji.

3

Bezpośrednie wywołanie projektu

Skieruj projekt na lokalny punkt końcowy i wywołuj embedding oraz uzupełnianie tak, jakbyś korzystał z chmurowego API.

Co możesz zyskać

Pobieranie modeli jednym kliknięciem, obsługa wznawiania przerwanego transferu
Lokalny model jest udostępniany przez jeden wspólny punkt końcowy
Wywołuj embedding i uzupełnianie w projektach PHP / Node / Python
Bez klucza, zerowe koszty, dane nie opuszczają tego urządzenia
Wsparcie dla llama.cpp i MLX już wkrótce

Wywołuj lokalne modele tak, jakbyś korzystał z chmurowego API

Standardowy interfejs – aby zmienić model, wystarczy zmienić tylko nazwę.

ServBay · localhost:11434
# Wywołuj lokalny model dokładnie tak samo jak API w chmurze
curl http://localhost:11434/v1/chat/completions \
-d '{"model": "llama3", "messages": […]}'
# Zmieniasz model? Zmień tylko nazwę modelu
"model": "qwen2"

Główne otwarte modele, które można uruchomić lokalnie

Otwarte modele z biblioteki modeli Ollama, gotowe do użycia po jednym kliknięciu.

Llama
Qwen
DeepSeek
Mistral
Gemma
Phi

...oraz więcej modeli w bibliotece Ollama

Najczęściej zadawane pytania

Jakie modele można uruchomić?

Wszystkie otwarte modele w bibliotece Ollama, od Llama, Qwen po DeepSeek i Mistral, można pobrać i uruchomić jednym kliknięciem.

Czy lokalny projekt może być wywoływany bezpośrednio?

Tak. Za pośrednictwem lokalnego punktu końcowego Twój projekt PHP / Node / Python może bezpośrednio wywoływać embedding i uzupełnianie.

Czy dane będą przesyłane?

Nie. Model i wszystkie operacje są wykonywane wyłącznie na Twoim urządzeniu, dane nie opuszczają tego komputera.

Bezpłatne pobieranie

ServBay AI Helper
ServBay AI Helper