메인 콘텐츠로 건너뛰기
W&B를 사용하면 Cohere 모델의 파인튜닝 메트릭과 설정을 로그하여 모델의 성능을 분석 및 이해하고, 그 결과를 동료들과 공유할 수 있습니다. Cohere 가이드에서 파인튜닝 Run을 시작하는 전체 예시를 확인할 수 있으며, Cohere API 문서도 여기에서 찾아보실 수 있습니다.

Cohere 파인튜닝 결과 로그하기

W&B Workspace에 Cohere 파인튜닝 로깅을 추가하는 방법은 다음과 같습니다:
  1. W&B API 키, W&B entityproject 이름을 포함한 WandbConfig를 생성합니다. API 키는 https://wandb.ai/settings 에서 생성할 수 있습니다.
  2. 파인튜닝 Run을 시작하기 위해 모델 이름, 데이터셋, 하이퍼파라미터와 함께 이 설정을 FinetunedModel 오브젝트에 전달합니다.
    from cohere.finetuning import WandbConfig, FinetunedModel
    
    # W&B 상세 정보를 사용하여 설정 생성
    wandb_ft_config = WandbConfig(
        api_key="<wandb_api_key>",
        entity="my-entity", # 제공된 API 키와 연결된 유효한 entity여야 합니다.
        project="cohere-ft",
    )
    
    ...  # 데이터셋 및 하이퍼파라미터 설정
    
    # Cohere에서 파인튜닝 Run 시작
    cmd_r_finetune = co.finetuning.create_finetuned_model(
      request=FinetunedModel(
        name="command-r-ft",
        settings=Settings(
          base_model=...
          dataset_id=...
          hyperparameters=...
          wandb=wandb_ft_config  # 여기에 W&B 설정을 전달합니다.
        ),
      ),
    )
    
  3. 생성한 W&B 프로젝트에서 모델의 파인튜닝 트레이닝 및 검증 메트릭과 하이퍼파라미터를 확인합니다.
    Cohere fine-tuning dashboard

Runs 정리하기

W&B Runs는 자동으로 정리되며 job 유형, 베이스 모델, 학습률(learning rate) 및 기타 하이퍼파라미터와 같은 모든 설정 파라미터를 기반으로 필터링하거나 정렬할 수 있습니다. 또한, Runs의 이름을 변경하거나 노트를 추가하고, 태그를 생성하여 그룹화할 수 있습니다.

리소스