eval-system-premium 온프렘 의존성 감사 + 컨테이너 부족분 분석

1호출 체인 (HEAD bd5d51a 기준)

현재 BFF 라우터 (실측)

2핵심 발견 4건

llm_base_url: str = "https://openrouter.ai/api/v1"
llm_model:    str = "google/gemma-4-31b-it:exacto"
vlm_base_url: str = "https://openrouter.ai/api/v1"
vlm_model:    str = "qwen/qwen3-vl-8b-thinking"
# ApiBackend = Literal["openrouter", "openai", "vllm", "custom"]

# apps/eval-system-premium/docker-compose.yml — 마지막 5줄 제거
- networks:
-   default:
-     driver: bridge
-     labels:
-       service: eval-system-premium

3컨테이너 필요 매트릭스

tar -xOf docker-images/pps-images.tar manifest.json | jq -r '.[].RepoTags[]'

4온프레미스 환경변수 패치 (핵심)

① hwpx-intelligence — OpenRouter → 로컬 vLLM

# 컨테이너 env (hwpx-intelligence)
HWPX_LLM_BACKEND=vllm
HWPX_LLM_BASE_URL=http://host.docker.internal:8305/v1   # H100 host vLLM
HWPX_LLM_MODEL=Qwen/Qwen3-32B
HWPX_VLM_BACKEND=vllm
HWPX_VLM_BASE_URL=http://host.docker.internal:8303/v1
HWPX_VLM_MODEL=Qwen/Qwen3-VL-8B-Instruct
# OPENROUTER_API_KEY 는 비워두기 (default 폴백 방지)

② eval-system-premium BFF — hwpx endpoint pin

HWPX_BASE_URL=http://hwpx-intelligence:8001
HWPX_CALLBACK_BASE=http://eval-system-premium-bff:4001
BFF_DATABASE_URL=postgresql+asyncpg://pps_user:pps_password@postgres:5432/eval_system_premium
MINIO_ENDPOINT=minio:9000           # 없으면 미설정 → data_uri inline
PREMIUM_BFF_DISABLE_SELF_POLLER=false # HANDOFF gap #3 — webhook 누락 대비

③ vLLM 호스트 부팅 (H100)

# LLM (32B fp16 ≒ 64GB VRAM)
python -m vllm.entrypoints.openai.api_server \
  --model Qwen/Qwen3-32B --port 8305 \
  --gpu-memory-utilization 0.85 --max-model-len 32768

# VLM (8B 별 GPU 권장, 같은 H100 80GB 면 메모리 빠듯)
python -m vllm.entrypoints.openai.api_server \
  --model Qwen/Qwen3-VL-8B-Instruct --port 8303 \
  --gpu-memory-utilization 0.15 --max-model-len 8192

5compose 패치 (즉시 적용 가능)

패치 ① — premium sub-compose 의 networks 블록 제거

# apps/eval-system-premium/docker-compose.yml — 파일 마지막 5줄 삭제
- networks:
-   default:
-     driver: bridge
-     labels:
-       service: eval-system-premium

패치 ② — start.sh inspect 8개 이미지 전수 확인

for img in pps-ai-engine pps-celery-worker pps-knowledge-hub \
           pps-data-pipeline pps-analysis-pipeline \
           pps-ai-dashboard-backend pps-portal-nginx pps-rfp-backend \
           pps-eval-system-premium-bff pps-eval-system-premium-frontend; do
  docker image inspect "$img" >/dev/null 2>&1 || need_load=1
done
[ -n "$need_load" ] && docker load < "$IMAGES_TAR"

패치 ③ — 루트 compose 의 build-only 서비스에 image: 명시

# docker-compose.yml — 7개 서비스에 image: 라인 추가
ai-engine:
  image: pps-ai-engine:latest
  build: { context: ., dockerfile: services/ai_engine/Dockerfile }
# 같은 패턴으로 celery-worker / knowledge-hub / data-pipeline /
# analysis-pipeline / ai-dashboard-backend / portal-nginx / rfp-backend

6해결안 비교 — 데모일 D-Day 의사결정

7온프레미스 추가 주의사항

• 외부 호출 차단: hwpx default OpenRouter / Anthropic / Google AI 모두 outbound 차단 가정. HWPX_LLM_BASE_URL + OPENROUTER_API_KEY= (빈 값) 필수.
• 이미지 pull 차단: docker daemon 이 hub.docker.com 접근 불가 가정. 모든 base image (postgres, redis, minio 등) 가 tar 에 들어있어야. postgres:16-alpine 등 빠지면 부팅 실패.
• 알파인 vs glibc: postgres:16-alpine entrypoint 에 dos2unix 설치 — 인터넷 없으면 apk add 실패. 패치 4: postgres:16 debian 기반 + init-databases.sh 라인 종료 정리 (LF) 로 변경 권장.
• portal-nginx SSE: hwpx 의 진행 SSE 가 nginx 통과 시 proxy_buffering off + proxy_read_timeout 충분(≥600s). 기본 60s 면 끊김.
• MinIO subpath redirect: MINIO_BROWSER_REDIRECT_URL 가 외부 도메인(localhost) 가리키면 콘솔 깨짐. 내부 IP 로 변경.
• frontend ↔ BFF same-origin: NEXT_PUBLIC_API_BASE_URL=/app/eval-premium-api — portal-nginx 라우팅 의존. nginx 미사용 시 절대 URL 로 override.
• HWPX webhook 누락 (HANDOFF gap #3): hwpx-intelligence JobManager.set_done_callback 미구현 → BFF self-poller 켜기 (PREMIUM_BFF_DISABLE_SELF_POLLER=false).
• cross-DB write (HANDOFF gap #4): T6 이 살아있다면 analysis_pipeline 의 tech_matcher 가 eval_db 에 쓰는데 BFF 는 eval_system_premium 을 읽음 → compare 결과가 fixture 그대로. A 옵션이면 무관, B 옵션이면 양쪽 동기화 코드 필요.

8부팅 검증 시퀀스 (온프렘 서버에서)

# 1) 이미지 tar 무결성
tar -tf docker-images/pps-images.tar | head
tar -xOf docker-images/pps-images.tar manifest.json | jq '.[].RepoTags'

# 2) compose 정합성 검증 (networks 패치 적용 후)
docker compose config --services
docker compose config --images

# 3) vLLM 헬스
curl -fsS http://localhost:8305/v1/models | jq '.data[].id'
curl -fsS http://localhost:8303/v1/models | jq '.data[].id'

# 4) hwpx-intelligence 헬스 (vLLM 연결 확인)
docker compose up -d hwpx-intelligence
docker compose logs hwpx-intelligence | grep -i "llm_base_url\|vlm_base_url"
curl -fsS http://localhost:8001/api/health

# 5) BFF 헬스
docker compose up -d eval-system-premium-bff
curl -fsS http://localhost:4001/api/health

# 6) e2e: 김기열 주무관님 hwpx 1건 업로드
curl -X POST http://localhost:4001/api/specs \
  -F "file=@samples/2._배전반_규격서/01.hwpx" | jq '.spec_id'
# spec_id 받은 뒤 60s 대기 → /api/proposals/{spec_id}/extracted 호출