GPU 임대 및 배포

GPUnex는 GPU 패키지 보유자를 위한 플랫폼만이 아닙니다 — AI 엔지니어, 연구원, 기업이 엔터프라이즈급 하드웨어에 온디맨드로 접근할 수 있는 완전한 GPU 컴퓨팅 마켓플레이스이기도 합니다. 이 가이드는 임대자 접근 신청, GPU 모델 선택, 가격 모델 선택, 인스턴스 배포 및 연결까지 전체 과정을 안내합니다.

임대자 접근 신청

GPU 임대 접근에는 승인된 신청이 필요합니다. 이 검증 단계는 모든 마켓플레이스 참여자에게 서비스 품질을 보장하고 GPUnex가 워크로드에 적합한 하드웨어를 매칭하는 데 도움을 줍니다.

단계별 안내

1. 임대자 섹션으로 이동합니다. 사이드바에서 **“GPU 임대”**를 클릭하거나 역할 페이지로 이동하여 임대자 역할을 선택합니다.

2. “GPU 임대 신청”을 클릭하여 신청 양식을 엽니다.

3. 다음 세부 정보로 신청서를 작성합니다:

   개인/회사 정보:

   • 성명 (필수)
   • 이메일 주소 (필수)
   • 회사명 (선택사항 — 개인도 신청 가능합니다)

   사용 사례 세부 정보:

   • 사용 사례 설명 — GPU 컴퓨팅을 어떤 용도로 사용할 계획인지 설명합니다 (예: 대규모 언어 모델 학습, 추론 워크로드 실행, 렌더링, 과학 시뮬레이션)

   GPU 요구사항:

   • 선호 GPU 모델 — 사용 가능한 모델에서 선택합니다 (H100, A100, L40S, L4)
   • 수량 — 필요한 GPU 수 (단일 GPU 또는 다중 GPU 구성)
   • VRAM 요구사항 — 워크로드에 필요한 최소 VRAM
   • 사용 패턴 — 연속, 버스트 또는 주기적 사용
   • 선호 리전 — 최저 지연 시간을 위한 선호 EU 데이터센터 리전 선택

   예산 및 일정:

   • 예상 월간 예산 USDC 기준
   • 일정 — 시작 시기 (즉시, 1주 이내, 1개월 이내)

4. 신청서의 정확성과 완전성을 검토합니다.

5. “제출”을 클릭하여 검토를 위해 신청서를 보냅니다.

신청 검토

• 신청서는 영업일 기준 24-48시간 내에 검토됩니다.
• 신청이 승인되면 이메일 알림을 받게 됩니다.
• 승인되면 GPU 임대 마켓플레이스에 대한 전체 접근 권한을 얻고 즉시 인스턴스를 배포할 수 있습니다.

사용 가능한 GPU 모델

GPUnex는 다양한 워크로드 요구사항과 예산에 맞는 다양한 NVIDIA 데이터센터 GPU를 제공합니다.

다중 GPU 구성

단일 GPU가 제공할 수 있는 것보다 더 많은 컴퓨팅이 필요한 워크로드의 경우 GPUnex는 다중 GPU 구성을 지원합니다:

• 단일 노드에서 최대 8x NVIDIA H100 GPU
• 노드 내 GPU 간 고대역폭 통신을 위한 NVLink 인터커넥트
• 다중 노드 클러스터를 위한 InfiniBand 네트워킹
• 대규모 모델의 분산 학습, 대규모 추론 서빙 및 대규모 병렬 처리가 필요한 연구에 적합

적합한 GPU 선택

적절한 하드웨어를 선택하기 위한 가이드라인:

• 대규모 언어 모델 학습 (>70억 파라미터): H100 80GB 또는 A100 80GB, 다중 GPU 권장
• 사전 학습된 모델 미세 조정: 모델 크기에 따라 A100 40GB 또는 A100 80GB
• 프로덕션 추론 서빙: 비용 효율적 추론을 위한 L40S 48GB 또는 L4 24GB; 지연 시간에 민감한 애플리케이션은 H100
• 렌더링 및 시각화: L40S 48GB가 탁월한 그래픽 및 컴퓨팅 성능 제공
• 배치 처리 및 경량 추론: L4 24GB가 소규모 모델에 대한 최상의 추론당 비용 제공

가격 모델

GPUnex는 다양한 사용 패턴과 예산 요구사항에 맞는 세 가지 가격 모델을 제공합니다.

온디맨드

• 청구: 초 단위, 사용한 만큼만 결제
• 약정: 없음 — 언제든지 시작 및 중지
• 유연성: 즉시 확장 또는 축소할 수 있는 완전한 유연성
• 적합: 실험, 가변 워크로드, 단기 프로젝트

예약

• 약정: 일, 주 또는 월
• 할인: 온디맨드 가격 대비 최대 40% 할인
• 용량: 보장됨 — 약정 기간 동안 예약된 GPU가 항상 사용 가능
• 적합: 지속적인 학습, 프로덕션 추론, 예측 가능한 워크로드

스팟

• 할인: 온디맨드 가격 대비 최대 70% 할인
• 선점: 수요가 급증하면 30초 경고와 함께 인스턴스가 회수될 수 있음
• 자동 체크포인트: 선점 알림 발행 시 시스템이 자동으로 체크포인트 저장을 트리거하여 작업 손실을 최소화
• 적합: 내결함성 워크로드, 배치 처리, 시간에 민감하지 않은 학습 작업, 예산에 민감한 실험

인스턴스 배포

임대자 신청이 승인되면 마켓플레이스에서 GPU 인스턴스를 배포할 수 있습니다.

단계별 안내

1. 대시보드에서 GPU 마켓플레이스로 이동합니다.

2. 다음 기준을 사용하여 사용 가능한 인벤토리를 검색 및 필터링합니다:

   • GPU 모델 (H100, A100, L40S, L4)
   • VRAM (24GB, 40GB, 48GB, 80GB)
   • 리전 (선호하는 EU 데이터센터 위치 선택)
   • 가격 범위 (시간당 요금으로 필터링)
   • 가격 모델 (온디맨드, 예약 또는 스팟)

3. 검색 결과에서 GPU를 선택합니다. 목록을 클릭하여 사양, 가격, 가용성 및 데이터센터 위치를 포함한 전체 세부 정보를 봅니다.

4. 소프트웨어 환경을 선택합니다. 사전 구성된 프레임워크에서 선택하거나 직접 제공합니다:

   사전 설치 프레임워크:

   • PyTorch — CUDA 지원이 포함된 최신 안정 릴리스
   • TensorFlow — GPU 가속이 포함된 최신 안정 릴리스
   • JAX — 고성능 ML 프레임워크
   • Jupyter — 일반 ML 라이브러리가 사전 구성된 JupyterLab 환경

   커스텀 환경:

   • 공개 또는 비공개 컨테이너 레지스트리에서 커스텀 Docker 이미지 제공
   • 이미지 URL 및 필요한 환경 변수 지정

5. 인스턴스 설정을 구성합니다:

   • 인스턴스 이름 (참조용)
   • SSH 공개 키 (보안 접근용)
   • 시작 스크립트 (선택사항 — 인스턴스 실행 시 자동 실행)
   • 환경 변수 (선택사항)

6. 검토 및 배포합니다. GPU 선택, 가격 모델, 소프트웨어 환경 및 구성을 확인합니다. **“배포”**를 클릭하여 인스턴스를 실행합니다.

7. 프로비저닝을 기다립니다. 컨테이너가 배포되고 배포를 클릭한 후 몇 초 내에 SSH 연결이 가능합니다.

SSH로 연결

인스턴스가 실행되면 인스턴스 관리 페이지에서 연결 세부 정보를 받게 됩니다:

• IP 주소, 포트 및 사용자 이름이 인스턴스 세부 정보 패널에 제공됩니다.
• 배포 시 제공한 SSH 공개 키에 해당하는 개인 키를 사용합니다.
• 컨테이너 내에서 root 접근 권한이 있습니다.

인스턴스 관리

인스턴스 관리 페이지에서 다음을 수행할 수 있습니다:

• 시작/중지 인스턴스로 청구 일시 중지 (온디맨드만 해당)
• 모니터링 GPU 활용률, 메모리 사용량 및 컴퓨팅 메트릭 실시간 확인
• 로그 확인 실행 중인 프로세스의 로그
• 종료 작업 완료 시 인스턴스 종료

영구 스토리지

GPUnex는 GPU 인스턴스 수명 주기와 독립적인 네트워크 연결 영구 스토리지를 제공합니다.

주요 기능

• 재시작 후에도 유지. 인스턴스를 중지하고 재시작해도 데이터가 그대로 유지됩니다.
• 새 인스턴스에 연결 가능. 하나의 인스턴스를 종료하고 새 인스턴스를 배포한 경우 기존 스토리지 볼륨을 새 인스턴스에 연결할 수 있습니다. 모든 데이터, 모델 체크포인트, 데이터셋 및 코드가 보존됩니다.
• 데이터 영속성. 스토리지 볼륨은 명시적으로 삭제할 때까지 유지되며 컴퓨팅 인스턴스에 무슨 일이 발생하든 관계없습니다.

영구 스토리지 사용 사례

• 여러 학습 실행에 걸쳐 사용하는 학습 데이터셋 저장
• 중단 후 학습을 재개할 수 있도록 모델 체크포인트 저장 (스팟 인스턴스에 특히 중요)
• 인스턴스 변경 시 코드 저장소 및 개발 환경 유지
• 장기 연구 프로젝트의 실험 로그 및 결과 보관

도움 받기

표준 지원

모든 임대자는 기술 문제, 청구 질문 및 일반 지원을 위한 GPUnex 지원 시스템에 접근할 수 있습니다. 대시보드의 지원 섹션을 통해 문의하세요.

엔터프라이즈 지원

엔터프라이즈 고객과 대규모 배포 팀은 추가 지원을 받습니다:

• 지명된 담당자가 있는 전담 계정 관리
• 더 빠른 응답 시간의 우선 지원
• 특정 워크로드 요구사항에 맞춘 커스텀 클러스터 구성
• 대규모 배포를 위한 볼륨 가격
• 가동 시간 및 성능에 대한 SLA 보장

맞춤 솔루션이 필요하신가요?

커스텀 클러스터 구성, 다중 노드 배포, 예약 용량 계약 또는 엔터프라이즈 가격에 대해 영업팀이 도움을 드릴 준비가 되어 있습니다. 전용 H100 클러스터든 맞춤형 인프라 설정이든 워크로드에 적합한 솔루션을 구축할 수 있습니다.

영업팀 문의 요구사항을 논의하고 맞춤 견적을 받으세요.

다음 단계

• API 레퍼런스 — GPUnex GPU 관리를 자체 스크립트 및 자동화 파이프라인에 통합
• GPU 패키지 작동 방식 — GPUnex 마켓플레이스의 투자자 측면에 대해 알아보기
• 영업팀 문의 — 엔터프라이즈 솔루션, 커스텀 구성 및 볼륨 가격에 대해 문의