본문으로 건너뛰기

Launch FAQ

시작하기​

W&B가 저를 위해 컨테이너를 빌드하지 않기를 원합니다, Launch를 여전히 사용할 수 있나요?​

네. 다음을 실행하여 사전 빌드된 도커 이미지를 실행하세요. <> 안의 항목들을 귀하의 정보로 교체하세요:

wandb launch -d <docker-image-uri> -q <queue-name> -E <entrypoint>

이것은 run을 생성할 때 job을 빌드할 것입니다.

또는 이미지에서 job을 만들 수 있습니다:

wandb job create image <image-name> -p <project> -e <entity>

Launch를 효과적으로 사용하기 위한 모범 사례가 있나요?​

  1. 에이전트를 시작하기 전에 큐를 생성하여 에이전트가 쉽게 참조할 수 있도록 합니다. 이를 수행하지 않으면 에이전트가 오류를 발생시키고 큐를 추가할 때까지 작동하지 않습니다.
  2. 에이전트를 시작하기 위해 W&B 서비스 계정을 생성하여 개별 사용자 계정에 연결되지 않도록 합니다.
  3. wandb.config를 사용하여 하이퍼파라미터를 읽고 쓰므로 job을 다시 실행할 때 덮어쓸 수 있습니다. argsparse를 사용하는 경우 이 가이드를 확인하세요.

클릭하기 싫어요- UI를 거치지 않고 Launch를 사용할 수 있나요?​

네. 표준 wandb CLI에는 job을 실행하는 데 사용할 수 있는 launch 하위 명령어가 포함되어 있습니다. 더 많은 정보를 원한다면 다음을 실행해 보세요.

wandb launch --help

Launch가 대상 환경에서 컴퓨팅 리소스를 자동으로 프로비저닝(그리고 종료)할 수 있나요?​

환경에 따라 다릅니다. 우리는 SageMaker와 Vertex에서 리소스를 프로비저닝할 수 있습니다. Kubernetes에서는 필요할 때 자동으로 리소스를 확장하고 축소하는 데 사용할 수 있는 오토스케일러를 사용할 수 있습니다. W&B의 솔루션 아키텍트는 리트라이, 오토스케일링 및 스팟 인스턴스 노드 풀 사용을 용이하게 하기 위해 기존 Kubernetes 인프라를 구성하는 데 도움을 드리기를 기쁘게 생각합니다. support@wandb.com 또는 공유된 Slack 채널로 문의하세요.

wandb launch -d 또는 wandb job create image가 전체 도커 아티팩트를 업로드하고 레지스트리에서 가져오지 않는 것입니까?​

아닙니다. wandb launch -d 명령어는 여러분을 위해 레지스트리에 업로드하지 않습니다. 여러분은 직접 이미지를 레지스트리에 업로드해야 합니다. 일반적인 단계는 다음과 같습니다:

  1. 이미지를 빌드합니다.
  2. 이미지를 레지스트리에 푸시합니다.

워크플로우는 다음과 같습니다:

docker build -t <repo-url>:<tag> .
docker push <repo-url>:<tag>
wandb launch -d <repo-url>:<tag>

그 후, 런치 에이전트는 해당 컨테이너를 가리키는 job을 시작할 것입니다. 컨테이너 레지스트리에서 이미지를 가져올 수 있도록 에이전트에 권한을 부여하는 예제는 고급 에이전트 설정을 참조하세요.

Kubernetes의 경우, Kubernetes 클러스터 파드는 여러분이 푸시하는 레지스트리에 접근할 수 있어야 합니다.

Dockerfile을 지정하고 W&B가 Docker 이미지를 대신 빌드하도록 할 수 있나요?​

네. 요구 사항이 자주 변경되지 않지만 코드베이스가 자주 변경되는 경우 특히 유용합니다.

정보

Dockerfile이 마운트를 사용하도록 포맷되었는지 확인하세요. 자세한 내용은 Docker Docs 웹사이트의 마운트 문서를 참조하세요.

Dockerfile을 구성한 후 W&B에서 다음 세 가지 방법 중 하나를 사용하여 Dockerfile을 지정할 수 있습니다:

  • Dockerfile.wandb 사용
  • W&B CLI
  • W&B 앱

W&B run의 엔트리포인트와 같은 디렉토리에 Dockerfile.wandb라는 파일을 포함하세요. W&B는 W&B의 내장 Dockerfile 대신 Dockerfile.wandb를 사용합니다.

권한 및 리소스​

큐에 푸시할 수 있는 사람을 어떻게 제어하나요?​

큐는 사용자 팀 범위에 있습니다. 큐를 생성할 때 소유 엔티티를 정의합니다. 접근을 제한하려면 팀 멤버십을 변경하세요.

Kubernetes에서 에이전트에 필요한 권한은 무엇인가요?​

“다음 Kubernetes 매니페스트는 wandb 네임스페이스에 wandb-launch-agent라는 역할을 생성합니다. 이 역할은 에이전트가 wandb 네임스페이스에서 파드, configmaps, 비밀, 및 파드/로그를 생성할 수 있도록 허용합니다. wandb-cluster-role은 에이전트가 선택한 네임스페이스의 모든 네임스페이스에서 파드, 파드/로그, 비밀, job, 및 job/상태를 생성할 수 있도록 허용합니다.”

Launch는 병렬화를 지원하나요? Job에 의해 소비되는 리소스를 어떻게 제한할 수 있나요?​

네, Launch는 여러 GPU 및 여러 노드에 걸쳐 job을 확장하는 것을 지원합니다. 자세한 내용은 이 가이드를 참조하세요.

Job 간 수준에서, 개별 런치 에이전트는 에이전트가 동시에 실행할 수 있는 job의 수를 결정하는 max_jobs 파라미터로 구성됩니다. 또한, 해당 에이전트가 실행할 수 있는 인프라에 연결된 한, 특정 큐를 가리키는 여러 에이전트를 원하는 만큼 가리킬 수 있습니다.

CPU/GPU, 메모리 및 기타 요구 사항을 launch 큐 또는 job 실행 수준에서 제한할 수 있으며, 리소스 구성에서 설정할 수 있습니다. Kubernetes에서 리소스 제한이 있는 큐를 설정하는 방법에 대한 자세한 내용은 여기를 참조하세요.

스윕의 경우, SDK에서 큐 구성에 블록을 추가할 수 있습니다.

queue config
  scheduler:
    num_workers: 4

병렬로 실행될 스윕의 동시 실행 수를 제한합니다.

Docker 큐를 사용하여 동일한 아티팩트를 use_artifact로 다운로드하는 여러 job을 실행할 때, job의 각 실행에 대해 아티팩트를 다시 다운로드하나요, 아니면 내부적으로 캐싱이 이루어지나요?​

캐싱이 없습니다; 각 job은 독립적입니다. 그러나 큐/에이전트를 구성하여 공유 캐시를 마운트하는 방법이 있습니다. 큐 구성에서 도커 인수를 통해 이를 달성할 수 있습니다.

특별한 경우로, W&B 아티팩트 캐시를 지속적인 볼륨으로 마운트할 수도 있습니다.

Job/자동화를 위해 비밀을 지정할 수 있나요? 예를 들어, 사용자에게 직접 보이지 않기를 원하는 API 키와 같은 것입니다?​

네. 제안된 방법은 다음과 같습니다:

  1. 실행이 생성될 네임스페이스에 일반 k8s 비밀로 비밀을 추가합니다. 예를 들어 kubectl create secret -n <namespace> generic <secret_name> <secret value>

  2. 그 비밀이 생성되면, 실행이 시작될 때 비밀을 주입하도록 큐 구성을 지정할 수 있습니다. 최종 사용자는 비밀을 볼 수 없으며, 클러스터 관리자만 볼 수 있습니다.

관리자가 ML 엔지니어가 수정할 수 있는 내용을 어떻게 제한할 수 있나요? 예를 들어, 이미지 태그를 변경하는 것은 괜찮지만 다른 job 설정은 그렇지 않을 수 있습니다.​

이는 큐 구성 템플릿에 의해 제어될 수 있으며, 관리자 사용자가 정의한 제한 내에서 비팀 관리자 사용자가 편집할 수 있는 특정 큐 필드를 노출합니다. 팀 관리자만 큐를 생성하거나 편집할 수 있으며, 노출된 필드와 그 제한을 정의하는 것을 포함합니다.

W&B Launch가 이미지를 어떻게 빌드하나요?​

이미지를 빌드하는 단계는 실행되는 job의 출처와 리소스 구성에 지정된 가속기 베이스 이미지의 여부에 따라 다릅니다.

노트

큐 구성을 지정하거나 job을 제출할 때, 큐 또는 job 리소스 구성에서 베이스 가속기 이미지를 제공할 수 있습니다:

{
    "builder": {
        "accelerator": {
            "base_image": "image-name"
        }
    }
}

빌드 프로세스 중 다음 job이 수행되며, job 유형과 제공된 가속기 베이스 이미지에 따라 다릅니다:

apt를 사용하여 파이썬 설치파이썬 패키지 설치사용자 및 job 디렉토리 생성코드를 이미지에 복사엔트리포인트 설정
git에서 출처를 가진 jobXXXX
코드에서 출처를 가진 jobXXXX
git에서 출처를 가진 job 및 제공된 가속기 이미지XXXXX
코드에서 출처를 가진 job 및 제공된 가속기 이미지XXXXX
이미지에서 출처를 가진 job

가속기 베이스 이미지에 대한 요구 사항은 무엇인가요?​

가속기를 사용하는 job의 경우, 필요한 가속기 구성 요소가 설치된 가속기 베이스 이미지를 제공할 수 있습니다. 제공된 가속기 이미지에 대한 기타 요구 사항은 다음과 같습니다:

  • Debian 호환성 (Launch Dockerfile은 python을 가져오기 위해 apt-get을 사용합니다)
  • CPU 및 GPU 하드웨어 명령 세트 호환성 (사용하려는 GPU에서 지원하는 CUDA 버전인지 확인하세요)
  • 여러분의 ML 알고리즘에 설치된 패키지와 제공하는 가속기 버전 간의 호환성
  • 하드웨어와의 호환성을 설정하기 위한 추가 단계가 필요한 패키지가 설치됨

GPU에서 Tensorflow를 사용하는 W&B Launch를 어떻게 작동시키나요?​

GPU에서 tensorflow를 사용하는 job의 경우, 실행이 GPU를 제대로 활용할 수 있도록 에이전트가 수행할 컨테이너 빌드에 대한 사용자 지정 베이스 이미지를 지정해야 할 수도 있습니다. 이는 리소스 구성의 builder.accelerator.base_image 키 아래에 이미지 태그를 추가함으로써 수행될 수 있습니다. 예를 들어:

{
    "gpus": "all",
    "builder": {
        "accelerator": {
            "base_image": "tensorflow/tensorflow:latest-gpu"
        }
    }
}

wandb 버전: 0.15.6 이전에는 base_image의 상위 키로 accelerator 대신 cuda를 사용하세요.

Launch가 이미지를 빌드할 때 사용자 지정 저장소를 사용할 수 있나요?​

네. 그렇게 하려면 requirements.txt에 다음 줄을 추가하고 index-url과 extra-index-url에 전달된 값을 귀하의 값으로 교체하세요:

On this page
Was this page helpful?👍👎