대시보드
필요한 AI만 켜고,
한곳에서 관리하세요.
채팅부터 이미지와 영상까지. 서버와 모델의 실행 상태를 실시간으로 확인합니다.
생성 서버
서버를 꺼도 이 관리 화면에서 다시 시작할 수 있습니다.
최근 작업
서버 제어와 모델 전환 결과
아직 실행한 관리 작업이 없습니다.
설치된 모델
불러오기를 누르면 필요한 서버가 자동으로 시작됩니다. 내리기는 모델 메모리만 해제합니다.
LTX는 흰 화면 문제로 사용 목록에서 제외되어 있습니다. 다운로드한 진단용 가중치는 보관 중입니다.
앱과 워크플로에 연결하세요
관리 API로 서버와 모델을 제어하고, 연동 API로 생성을 요청합니다.
http://127.0.0.1:7861제어 API /api · 생성 프록시 /proxyhttp://127.0.0.1:11434Ollama /api · OpenAI 호환 /v1http://127.0.0.1:7860이미지 /v1/images/generations · 영상 /sdcpp/v1/vid_gen연동 가이드
관리 API와 프록시에는 Authorization: Bearer <토큰> 헤더를 넣으세요. 직접 연결 포트는 기존 로컬 API를 그대로 사용합니다.
••••••••••••••••••••••••응답의 id로 GET /api/tasks/{id}를 조회해 completed를 확인하세요. 영상·이미지 작업은 응답의 poll_url을 /proxy/media 뒤에 붙여 조회합니다.
자동 시작·모델 선택·결과 저장 예제: D:\ollama\manager\client.py
상세 문서: D:\ollama\manager\API.md
API 요청 테스트
생성 요청 전에 모델 관리에서 해당 모델을 불러오세요.
응답이 여기에 표시됩니다.
생성 결과는 Base64일 수 있습니다. 긴 응답은 화면에서 일부만 표시합니다. 영상은 응답의 작업 ID로 진행 상태를 조회할 수 있습니다.
대화 화면 사용 설정
허용한 모델만 대화 화면에 표시됩니다. 저장한 설정은 이후 새 요청부터 적용됩니다.
종류별 사용 모델
종류의 모든 모델을 해제하면 해당 종류의 생성 기능이 비활성화됩니다.
응답 및 생성 설정
12GB GPU에서는 켜 두는 것을 권장합니다. 진행 중인 외부 생성 작업은 강제 종료하지 않습니다.
고품질 이미지 모드
권장 시작값 768×768. 1024는 메모리·속도를 확인한 뒤 사용하세요. Qwen·Krea 8단계, FLUX 16단계 유지. MOSS 고품질은 50단계입니다.
빠른 미리보기 크기
영상 설정
프레임은 9, 13, 17 … 121 중에서 선택하세요. 큰 크기와 긴 영상은 더 많은 메모리와 시간이 필요합니다.
기록 및 결과 저장
대화: D:\ollama\manager\data\history.sqlite3
이미지·영상: D:\ollama\manager\data\assets
대화 화면에서 JSON·Markdown 또는 결과 파일을 포함한 ZIP으로 내려받을 수 있습니다.
페이지를 닫아도 서버가 실행 중이면 생성 작업이 계속됩니다. 관리 서버 재시작 시 대기 작업은 이어서 처리하고, 진행 중인 영상·이미지 작업은 기존 작업 ID로 결과를 다시 조회합니다. 끊긴 채팅은 작성된 답변을 보존하고 중단 상태로 표시합니다.
외부 HTTPS · API 키
상태 확인 중
1. 도메인 DNS (hosting.co.kr)
설치 최종 점검에서 aiapi.withzone.co.kr의 A 레코드가 175.194.138.139로 확인되었습니다. 이후 DNS 변경으로 잘못된 CNAME → tplinkdns.com이 확인되었습니다. tplinkdns.com 자체를 대상으로 쓰면 안 됩니다. 공유기에 등록한 전체 DDNS 주소(예: 내이름.tplinkdns.com)를 사용하거나 CNAME을 제거하고 A → 175.194.138.139로 설정하세요. hosting.co.kr DNS 관리에서 A 레코드: 호스트 aiapi, 값 175.194.138.139, TTL 300을 추가하세요. 이 IP는 설치 시점 값입니다.
유동 IP라면 Archer AX12 → 고급 → 네트워크 → 동적 DNS에서 TP-Link DDNS를 등록하고, aiapi를 해당 *.tplinkdns.com의 CNAME으로 연결하세요. 같은 호스트에 A와 CNAME을 함께 등록하지 않습니다.
2. Archer AX12 공유기
http://192.168.0.1 로그인 → 고급 → 네트워크 → DHCP 서버 → 주소 예약: FC-34-97-E1-A0-F2 → 192.168.0.62.
고급 → NAT 포워딩 → 가상 서버/포트 포워딩에서 TCP 80 → 192.168.0.62:80, TCP 443 → 192.168.0.62:443 두 개를 추가하세요. 7860·7861·11434는 외부에 열지 마세요. DMZ는 필요 없습니다.
WAN IP가 공인 IP와 다르면 상위 공유기에서도 포워딩하거나 브리지 모드를 사용해야 합니다. 100.64~100.127 대역 등 CGNAT이면 통신사에 공인 IPv4를 요청하세요. WAN 원격 관리가 443을 쓰면 변경/해제하세요.
3. Windows 방화벽 · 공개 인증서
DNS와 공유기 설정 후 D:\ollama\Setup-HTTPS.cmd를 관리자 권한으로 실행하세요. 현재 공인 IP와 DNS를 비교한 뒤 이메일과 Let’s Encrypt 약관 동의를 받고 인증서를 발급합니다. 발급 성공 시에만 443 외부 수신을 활성화합니다. 자동 갱신 작업도 등록합니다.
D:\ollama\External-Server.cmd로 관리 서버와 Nginx를 다시 시작할 수 있습니다. PC는 켜져 있어야 하며 절전 상태에서는 접속할 수 없습니다. 준비 단계에서는 HTTP 80 인증 경로만 제공하고 HTTPS는 루프백 시험 전용입니다.
최종 확인은 휴대폰 Wi-Fi를 끄고 https://aiapi.withzone.co.kr 접속으로 하세요. 같은 LAN에서만 실패하면 NAT loopback 문제일 수 있습니다. DNS AAAA가 있다면 실제 IPv6 접속을 지원하지 않는 한 제거하세요.
4. 외부 앱 API 연동
아래에서 추론 전용 키를 만드세요. 키 원문은 생성 직후 한 번만 표시됩니다. 서버에는 해시만 저장합니다. 이 키는 관리자 설정/기존 대화 기록을 읽거나 서버를 종료할 수 없습니다. 키별로 자신의 작업만 조회할 수 있습니다.
BASE_URL=https://aiapi.withzone.co.kr
Authorization: Bearer <발급한 API 키>
Content-Type: application/json
GET /api/public/models
POST /api/models/gemma4/load {}
GET /api/tasks/{id} # completed 확인
POST /v1/chat/completions
{"model":"gemma4:8b","messages":[{"role":"user","content":"안녕하세요"}],"stream":false,"max_tokens":256}
POST /api/models/00-installed-qwen/load {}
# completed 확인 후
POST /sdcpp/v1/img_gen
{"prompt":"A small orange cat","width":512,"height":512,"seed":42}
GET /sdcpp/v1/jobs/{id}
POST /api/models/04-installed-video-wan/load {}
# completed 확인 후
POST /sdcpp/v1/vid_gen
{"prompt":"A cat slowly turns its head","width":832,"height":480,"video_frames":49,"fps":24,"seed":42}
GET /sdcpp/v1/jobs/{id}이미지·영상 응답의 poll_url을 같은 도메인 뒤에 붙이고 같은 키로 조회합니다. 결과의 Base64를 파일로 저장하세요. 모델은 공용 GPU를 사용하므로 한 번에 하나를 선택하고, 409이면 작업 종료 후 재시도하세요. 외부 API 생성 결과는 호출자가 저장해야 하며 대화 화면의 히스토리에 자동 등록되지는 않습니다. 대화 화면에서 보낸 요청과 결과는 기존처럼 영구 보관합니다.
OpenAI SDK 사용 시 base_url="https://aiapi.withzone.co.kr/v1", api_key=발급키로 설정하세요. 이는 설치된 로컬 Gemma 모델이며 OpenAI 서비스 요금/모델과 별개입니다. 자세한 Python 예제는 D:\ollama\manager\외부접속-API.md에 있습니다.