로컬 모델 · 무료

자신의 컴퓨터에서 AI 모델 실행하기

Ollama 모델을 원클릭으로 다운로드하고 실행하세요. 프로젝트는 로컬 엔드포인트를 통해 embedding과 보완을 직접 호출합니다—API key 없이, 비용 없이, 로컬에서만 실행됩니다.

자신의 컴퓨터에서 AI 모델 실행하기

로컬 모델, 하나의 엔드포인트로 프로젝트에 바로 연결됩니다

모델이 당신의 컴퓨터에서 실행되며, 로컬 엔드포인트를 통해 노출됩니다. 당신의 PHP / Node / Python 프로젝트는 클라우드 API를 호출하듯이 이를 사용할 수 있습니다. 단, 데이터는 절대 로컬 머신을 벗어나지 않습니다.

당신의 프로젝트
PHP · Node · Python
로컬 엔드포인트
통합 API 게이트웨이
Ollama 모델
당신의 기기에서 실행됩니다

세 단계로 로컬 모델 사용하기

1

원클릭 다운로드

ServBay에서 원하는 모델을 선택해 다운로드하세요. 중단되어도 이어받기가 지원되어 걱정하지 않으셔도 됩니다.

2

엔드포인트 자동 공개

모델이 준비되면 별도의 설정 없이 하나의 로컬 엔드포인트를 통해 통합적으로 제공됩니다.

3

프로젝트 직접 호출

프로젝트를 로컬 엔드포인트에 연결하여 클라우드 API처럼 embedding과 보완을 호출하세요.

무엇을 얻을 수 있나요

원클릭 모델 다운로드, 중단된 지점부터 이어받기 지원
로컬 모델이 하나의 엔드포인트를 통해 통합적으로 노출됩니다.
PHP / Node / Python 프로젝트에서 embedding과 보완을 호출
키 없이, 비용 없이, 데이터가 로컬에서만 처리됩니다
〔버전 출시와 함께〕llama.cpp 및 MLX 지원이 곧 제공됩니다

클라우드 API를 호출하듯이 로컬 모델을 호출하세요

표준 인터페이스로, 모델을 변경할 때 이름만 바꾸면 됩니다.

ServBay · localhost:11434
# 로컬 모델을 호출하여 클라우드 API와 완전히 동일하게 사용할 수 있습니다.
curl http://localhost:11434/v1/chat/completions \
-d '{"model": "llama3", "messages": […]}'
# 모델을 변경하시겠습니까? model 이름만 수정하세요
"model": "qwen2"

로컬에서 실행할 수 있는 주요 오픈소스 모델

Ollama 모델 라이브러리의 오픈소스 모델을 한 번의 클릭으로 바로 사용할 수 있습니다.

라마
Qwen
DeepSeek
Mistral
Gemma
Phi

…그리고 Ollama 라이브러리의 더 많은 모델

자주 묻는 질문

어떤 모델을 실행할 수 있나요?

Ollama 라이브러리의 모든 오픈소스 모델을 Llama, Qwen에서 DeepSeek, Mistral까지 한 번에 다운로드하고 실행할 수 있습니다.

로컬 프로젝트에서 바로 호출할 수 있나요?

네, 가능합니다. 로컬 엔드포인트를 통해 PHP / Node / Python 프로젝트에서 embedding과 보완 기능을 직접 호출할 수 있습니다.

데이터가 업로드되나요?

아니요. 모델과 호출은 모두 당신의 기기에서 이루어지며, 데이터는 기기를 벗어나지 않습니다.

무료 다운로드

ServBay AI Helper
ServBay AI Helper