Локальная модель · Бесплатно

Запускайте AI-модели на своем компьютере

Загрузка и запуск моделей Ollama в один клик. Проект вызывает embedding и дополнение напрямую через локальную конечную точку — без ключа, бесплатно, без выхода за пределы устройства.

Запускайте AI-модели на своем компьютере

Локальная модель, один эндпоинт напрямую к вашему проекту

Модель работает на вашем собственном компьютере и доступна через локальную конечную точку. Ваши проекты на PHP / Node / Python обращаются к ней так же, как к облачному API, — только данные никогда не покидают ваш компьютер.

Ваш проект
PHP · Node · Python
Локальная конечная точка
Единый вход API
Модель Ollama
Работает на вашем устройстве

Три шага для использования локальной модели

1

Скачать одним нажатием

Выберите модель для загрузки в ServBay — поддерживается возобновление загрузки, не бойтесь прерываний.

2

Автоматически публиковать конечные точки

Как только первая модель готова, она становится доступной через единый локальный эндпоинт без какой-либо настройки.

3

Прямой вызов проекта

Направьте проект на локальную конечную точку и вызывайте embedding и дополнение так же, как облачный API.

Что вы получите

Загрузка моделей в один клик с поддержкой возобновления загрузки
Локальные модели доступны через единый эндпоинт
В проектах на PHP / Node / Python используйте embedding и дополнение
Без ключа, бесплатно, данные не покидают устройство
〔В этом выпуске〕Поддержка llama.cpp и MLX скоро появится

Вызов локальной модели так же, как облачного API

Стандартный интерфейс — для смены модели нужно изменить только имя.

ServBay · localhost:11434
# Вызов локальной модели точно так же, как облачного API
curl http://localhost:11434/v1/chat/completions \
-d '{"model": "llama3", "messages": […]}'
# Сменить модель? Просто измените имя model
"model": "qwen2"

Популярные открытые модели, которые можно запускать локально

Открытые модели из библиотеки моделей Ollama, доступны для использования после однократной загрузки.

Лама
Qwen
DeepSeek
Mistral
Gemma
Phi

…а также другие модели из библиотеки Ollama

Часто задаваемые вопросы

Какие модели поддерживаются?

Все открытые модели из библиотеки Ollama — от Llama, Qwen до DeepSeek и Mistral — можно скачать и запустить в один клик.

Можно ли вызывать напрямую из локального проекта?

Да. Через локальную конечную точку ваши проекты на PHP / Node / Python могут напрямую вызывать embedding и дополнение.

Данные будут загружены?

Нет. Модель и все обращения полностью выполняются на вашем собственном устройстве, данные не покидают ваш компьютер.

Бесплатная загрузка

ServBay AI Helper
ServBay AI Helper