> ## Documentation Index
> Fetch the complete documentation index at: https://wb-21fd5541-serverless-sft-revamp.mintlify.site/llms.txt
> Use this file to discover all available pages before exploring further.

#  thoughtful ditch
MONAI를 활용한 3D 뇌종양 세그멘테이션 (Segmentation)

export const ColabLink = ({url}) => <a href={url} target="_blank" rel="noopener noreferrer" className="colab-link">
    <svg width="20" height="20" viewBox="0 0 24 24" fill="currentColor" xmlns="http://www.w3.org/2000/svg">
      <path d="M14.25.18l.9.2.73.26.59.3.45.32.34.34.25.34.16.33.1.3.04.26.02.2-.01.13V8.5l-.05.63-.13.55-.21.46-.26.38-.3.31-.33.25-.35.19-.35.14-.33.1-.3.07-.26.04-.21.02H8.77l-.69.05-.59.14-.5.22-.41.27-.33.32-.27.35-.2.36-.15.37-.1.35-.07.32-.04.27-.02.21v3.06H3.17l-.21-.03-.28-.07-.32-.12-.35-.18-.36-.26-.36-.36-.35-.46-.32-.59-.28-.73-.21-.88-.14-1.05-.05-1.23.06-1.22.16-1.04.24-.87.32-.71.36-.57.4-.44.42-.33.42-.24.4-.16.36-.1.32-.05.24-.01h.16l.06.01h8.16v-.83H6.18l-.01-2.75-.02-.37.05-.34.11-.31.17-.28.25-.26.31-.23.38-.2.44-.18.51-.15.58-.12.64-.1.71-.06.77-.04.84-.02 1.27.05zm-6.3 1.98l-.23.33-.08.41.08.41.23.34.33.22.41.09.41-.09.33-.22.23-.34.08-.41-.08-.41-.23-.33-.33-.22-.41-.09-.41.09zm13.09 3.95l.28.06.32.12.35.18.36.27.36.35.35.47.32.59.28.73.21.88.14 1.04.05 1.23-.06 1.23-.16 1.04-.24.86-.32.71-.36.57-.4.45-.42.33-.42.24-.4.16-.36.09-.32.05-.24.02-.16-.01h-8.22v.82h5.84l.01 2.76.02.36-.05.34-.11.31-.17.29-.25.25-.31.24-.38.2-.44.17-.51.15-.58.13-.64.09-.71.07-.77.04-.84.01-1.27-.04-1.07-.14-.9-.2-.73-.25-.59-.3-.45-.33-.34-.34-.25-.34-.16-.33-.1-.3-.04-.25-.02-.2.01-.13v-5.34l.05-.64.13-.54.21-.46.26-.38.3-.32.33-.24.35-.2.35-.14.33-.1.3-.06.26-.04.21-.02.13-.01h5.84l.69-.05.59-.14.5-.21.41-.28.33-.32.27-.35.2-.36.15-.36.1-.35.07-.32.04-.28.02-.21V6.07h2.09l.14.01.21.03zm-6.47 14.25l-.23.33-.08.41.08.41.23.33.33.23.41.08.41-.08.33-.23.23-.33.08-.41-.08-.41-.23-.33-.33-.23-.41-.08-.41.08z" />
    </svg>
    Try in Colab
  </a>;

<ColabLink url="https://colab.research.google.com/github/wandb/examples/blob/master/colabs/monai/3d_brain_tumor_segmentation.ipynb" />

이 튜토리얼에서는 [MONAI](https://github.com/Project-MONAI/MONAI)를 사용하여 멀티 라벨 3D 뇌종양 세그멘테이션 작업의 트레이닝 워크플로우를 구축하고, [W\&B](https://wandb.ai/site)의 실험 추적 및 데이터 시각화 기능을 사용하는 방법을 설명합니다. 이 튜토리얼은 다음 기능을 포함합니다:

1. W\&B Run 을 초기화하고 재현성을 위해 run 과 관련된 모든 설정을 동기화합니다.
2. MONAI transform API:
   1. 사전(dictionary) 형식 데이터에 대한 MONAI Transforms.
   2. MONAI `transforms` API에 따라 새로운 transform을 정의하는 방법.
   3. 데이터 증강(augmentation)을 위해 강도(intensity)를 무작위로 조정하는 방법.
3. 데이터 로딩 및 시각화:
   1. 메타데이터와 함께 `Nifti` 이미지를 로드하고, 이미지 리스트를 로드하여 쌓기(stack).
   2. 트레이닝 및 검증 속도를 높이기 위한 IO 캐시 및 transforms 캐싱.
   3. `wandb.Table`과 W\&B의 대화형 세그멘테이션 오버레이를 사용하여 데이터 시각화.
4. 3D `SegResNet` 모델 트레이닝
   1. MONAI의 `networks`, `losses`, `metrics` API 사용.
   2. PyTorch 트레이닝 루프를 사용하여 3D `SegResNet` 모델 트레이닝.
   3. W\&B를 사용하여 트레이닝 실험 추적.
   4. W\&B의 아티팩트로서 모델 체크포인트를 로그하고 버전 관리.
5. `wandb.Table`과 W\&B의 대화형 세그멘테이션 오버레이를 사용하여 검증 데이터셋의 예측값 시각화 및 비교.

## 설정 및 설치

먼저, MONAI와 W\&B의 최신 버전을 설치합니다.

```python theme={null}
!python -c "import monai" || pip install -q -U "monai[nibabel, tqdm]"
!python -c "import wandb" || pip install -q -U wandb
```

```python theme={null}
import os

import numpy as np
from tqdm.auto import tqdm
import wandb

from monai.apps import DecathlonDataset
from monai.data import DataLoader, decollate_batch
from monai.losses import DiceLoss
from monai.inferers import sliding_window_inference
from monai.metrics import DiceMetric
from monai.networks.nets import SegResNet
from monai.transforms import (
    Activations,
    AsDiscrete,
    Compose,
    LoadImaged,
    MapTransform,
    NormalizeIntensityd,
    Orientationd,
    RandFlipd,
    RandScaleIntensityd,
    RandShiftIntensityd,
    RandSpatialCropd,
    Spacingd,
    EnsureTyped,
    EnsureChannelFirstd,
)
from monai.utils import set_determinism

import torch
```

그런 다음, W\&B를 사용하기 위해 Colab 인스턴스를 인증합니다.

```python theme={null}
wandb.login()
```

## W\&B Run 초기화

실험 추적을 시작하기 위해 새로운 W\&B Run 을 시작합니다. 적절한 설정(config) 시스템을 사용하는 것은 재현 가능한 기계학습을 위한 권장 사항입니다. W\&B를 사용하여 모든 실험의 하이퍼파라미터를 추적할 수 있습니다.

```python theme={null}
with wandb.init(project="monai-brain-tumor-segmentation") as run:

    config = run.config
    config.seed = 0
    config.roi_size = [224, 224, 144]
    config.batch_size = 1
    config.num_workers = 4
    config.max_train_images_visualized = 20
    config.max_val_images_visualized = 20
    config.dice_loss_smoothen_numerator = 0
    config.dice_loss_smoothen_denominator = 1e-5
    config.dice_loss_squared_prediction = True
    config.dice_loss_target_onehot = False
    config.dice_loss_apply_sigmoid = True
    config.initial_learning_rate = 1e-4
    config.weight_decay = 1e-5
    config.max_train_epochs = 50
    config.validation_intervals = 1
    config.dataset_dir = "./dataset/"
    config.checkpoint_dir = "./checkpoints"
    config.inference_roi_size = (128, 128, 64)
    config.max_prediction_images_visualized = 20
```

또한 결정론적 트레이닝을 활성화하거나 비활성화하기 위해 모듈의 무작위 시드(seed)를 설정해야 합니다.

```python theme={null}
set_determinism(seed=config.seed)

# 디렉토리 생성
os.makedirs(config.dataset_dir, exist_ok=True)
os.makedirs(config.checkpoint_dir, exist_ok=True)
```

## 데이터 로딩 및 변환

여기서는 `monai.transforms` API를 사용하여 멀티 클래스 라벨을 원-핫(one-hot) 형식의 멀티 라벨 세그멘테이션 작업으로 변환하는 커스텀 transform을 생성합니다.

```python theme={null}
class ConvertToMultiChannelBasedOnBratsClassesd(MapTransform):
    """
    Brats 클래스에 따라 라벨을 멀티 채널로 변환:
    label 1: 종양 주위 부종(peritumoral edema)
    label 2: GD-강화 종양(GD-enhancing tumor)
    label 3: 괴사 및 비강화 종양 코어(necrotic and non-enhancing tumor core)
    가능한 클래스는 TC (Tumor core), WT (Whole tumor), ET (Enhancing tumor)입니다.

    참고: https://github.com/Project-MONAI/tutorials/blob/main/3d_segmentation/brats_segmentation_3d.ipynb

    """

    def __call__(self, data):
        d = dict(data)
        for key in self.keys:
            result = []
            # label 2와 label 3을 병합하여 TC 구축
            result.append(torch.logical_or(d[key] == 2, d[key] == 3))
            # labels 1, 2, 3을 병합하여 WT 구축
            result.append(
                torch.logical_or(
                    torch.logical_or(d[key] == 2, d[key] == 3), d[key] == 1
                )
            )
            # label 2는 ET
            result.append(d[key] == 2)
            d[key] = torch.stack(result, axis=0).float()
        return d
```

다음으로 트레이닝 및 검증 데이터셋에 대해 각각 transform을 설정합니다.

```python theme={null}
train_transform = Compose(
    [
        # 4개의 Nifti 이미지를 로드하고 함께 쌓기
        LoadImaged(keys=["image", "label"]),
        EnsureChannelFirstd(keys="image"),
        EnsureTyped(keys=["image", "label"]),
        ConvertToMultiChannelBasedOnBratsClassesd(keys="label"),
        Orientationd(keys=["image", "label"], axcodes="RAS"),
        Spacingd(
            keys=["image", "label"],
            pixdim=(1.0, 1.0, 1.0),
            mode=("bilinear", "nearest"),
        ),
        RandSpatialCropd(
            keys=["image", "label"], roi_size=config.roi_size, random_size=False
        ),
        RandFlipd(keys=["image", "label"], prob=0.5, spatial_axis=0),
        RandFlipd(keys=["image", "label"], prob=0.5, spatial_axis=1),
        RandFlipd(keys=["image", "label"], prob=0.5, spatial_axis=2),
        NormalizeIntensityd(keys="image", nonzero=True, channel_wise=True),
        RandScaleIntensityd(keys="image", factors=0.1, prob=1.0),
        RandShiftIntensityd(keys="image", offsets=0.1, prob=1.0),
    ]
)
val_transform = Compose(
    [
        LoadImaged(keys=["image", "label"]),
        EnsureChannelFirstd(keys="image"),
        EnsureTyped(keys=["image", "label"]),
        ConvertToMultiChannelBasedOnBratsClassesd(keys="label"),
        Orientationd(keys=["image", "label"], axcodes="RAS"),
        Spacingd(
            keys=["image", "label"],
            pixdim=(1.0, 1.0, 1.0),
            mode=("bilinear", "nearest"),
        ),
        NormalizeIntensityd(keys="image", nonzero=True, channel_wise=True),
    ]
)
```

### Dataset

이 실험에 사용된 데이터셋은 [http://medicaldecathlon.com/](http://medicaldecathlon.com/) 에서 제공됩니다. 멀티 모달 멀티 사이트 MRI 데이터(FLAIR, T1w, T1gd, T2w)를 사용하여 신경교종(Gliomas), 괴사/활성 종양, 부종을 세그멘테이션합니다. 데이터셋은 750개의 4D 볼륨(트레이닝 484개 + 테스트 266개)으로 구성됩니다.

`DecathlonDataset`을 사용하여 데이터셋을 자동으로 다운로드하고 압축을 풉니다. 이는 MONAI `CacheDataset`을 상속받으므로 메모리 크기에 따라 `cache_num=N`을 설정하여 트레이닝용으로 `N`개의 항목을 캐싱하거나, 기본 인수를 사용하여 검증용으로 모든 항목을 캐싱할 수 있습니다.

```python theme={null}
train_dataset = DecathlonDataset(
    root_dir=config.dataset_dir,
    task="Task01_BrainTumour",
    transform=val_transform,
    section="training",
    download=True,
    cache_rate=0.0,
    num_workers=4,
)
val_dataset = DecathlonDataset(
    root_dir=config.dataset_dir,
    task="Task01_BrainTumour",
    transform=val_transform,
    section="validation",
    download=False,
    cache_rate=0.0,
    num_workers=4,
)
```

<Note>
  **참고:** `train_dataset`에 `train_transform`을 적용하는 대신 트레이닝 및 검증 데이터셋 모두에 `val_transform`을 적용합니다. 이는 트레이닝 전에 데이터셋의 양쪽 분할에서 샘플을 시각화하기 위함입니다.
</Note>

### 데이터 시각화

W\&B는 이미지, 비디오, 오디오 등을 지원합니다. 풍부한 미디어를 로그하여 결과를 탐색하고 run, 모델 및 데이터셋을 시각적으로 비교할 수 있습니다. 데이터 볼륨을 시각화하려면 [세그멘테이션 마스크 오버레이 시스템](/models/track/log/media/#image-overlays-in-tables)을 사용하세요. [tables](/models/tables/)에 세그멘테이션 마스크를 로그하려면 테이블의 각 행에 대해 `wandb.Image` 오브젝트를 제공해야 합니다.

의사 코드(pseudocode) 예시는 다음과 같습니다:

```python theme={null}
table = wandb.Table(columns=["ID", "Image"])

for id, img, label in zip(ids, images, labels):
    mask_img = wandb.Image(
        img,
        masks={
            "prediction": {"mask_data": label, "class_labels": class_labels}
            # ...
        },
    )

    table.add_data(id, img)

run.log({"Table": table})
```

이제 샘플 이미지, 라벨, `wandb.Table` 오브젝트 및 일부 관련 메타데이터를 가져와 W\&B 대시보드에 로그될 테이블의 행을 채우는 간단한 유틸리티 함수를 작성합니다.

```python theme={null}
def log_data_samples_into_tables(
    sample_image: np.array,
    sample_label: np.array,
    split: str = None,
    data_idx: int = None,
    table: wandb.Table = None,
):
    num_channels, _, _, num_slices = sample_image.shape
    with tqdm(total=num_slices, leave=False) as progress_bar:
        for slice_idx in range(num_slices):
            ground_truth_wandb_images = []
            for channel_idx in range(num_channels):
                ground_truth_wandb_images.append(
                    masks = {
                        "ground-truth/Tumor-Core": {
                            "mask_data": sample_label[0, :, :, slice_idx],
                            "class_labels": {0: "background", 1: "Tumor Core"},
                        },
                        "ground-truth/Whole-Tumor": {
                            "mask_data": sample_label[1, :, :, slice_idx] * 2,
                            "class_labels": {0: "background", 2: "Whole Tumor"},
                        },
                        "ground-truth/Enhancing-Tumor": {
                            "mask_data": sample_label[2, :, :, slice_idx] * 3,
                            "class_labels": {0: "background", 3: "Enhancing Tumor"},
                        },
                    }
                    wandb.Image(
                        sample_image[channel_idx, :, :, slice_idx],
                        masks=masks,
                    )
                )
            table.add_data(split, data_idx, slice_idx, *ground_truth_wandb_images)
            progress_bar.update(1)
    return table
```

다음으로 `wandb.Table` 오브젝트와 테이블을 구성하는 컬럼을 정의하여 데이터 시각화 결과로 채워질 수 있도록 합니다.

```python theme={null}
table = wandb.Table(
    columns=[
        "Split",
        "Data Index",
        "Slice Index",
        "Image-Channel-0",
        "Image-Channel-1",
        "Image-Channel-2",
        "Image-Channel-3",
    ]
)
```

그런 다음 `train_dataset`과 `val_dataset`을 각각 루프 돌며 데이터 샘플에 대한 시각화를 생성하고, 대시보드에 로그할 테이블의 행을 채웁니다.

```python theme={null}
# train_dataset에 대한 시각화 생성
max_samples = (
    min(config.max_train_images_visualized, len(train_dataset))
    if config.max_train_images_visualized > 0
    else len(train_dataset)
)
progress_bar = tqdm(
    enumerate(train_dataset[:max_samples]),
    total=max_samples,
    desc="Generating Train Dataset Visualizations:",
)
for data_idx, sample in progress_bar:
    sample_image = sample["image"].detach().cpu().numpy()
    sample_label = sample["label"].detach().cpu().numpy()
    table = log_data_samples_into_tables(
        sample_image,
        sample_label,
        split="train",
        data_idx=data_idx,
        table=table,
    )

# val_dataset에 대한 시각화 생성
max_samples = (
    min(config.max_val_images_visualized, len(val_dataset))
    if config.max_val_images_visualized > 0
    else len(val_dataset)
)
progress_bar = tqdm(
    enumerate(val_dataset[:max_samples]),
    total=max_samples,
    desc="Generating Validation Dataset Visualizations:",
)
for data_idx, sample in progress_bar:
    sample_image = sample["image"].detach().cpu().numpy()
    sample_label = sample["label"].detach().cpu().numpy()
    table = log_data_samples_into_tables(
        sample_image,
        sample_label,
        split="val",
        data_idx=data_idx,
        table=table,
    )

# 대시보드에 테이블 로그
run.log({"Tumor-Segmentation-Data": table})
```

데이터는 W\&B 대시보드에 대화형 테이블 형식으로 나타납니다. 각 행에서 데이터 볼륨의 특정 슬라이스에 대한 각 채널이 해당 세그멘테이션 마스크와 함께 오버레이된 것을 볼 수 있습니다. [Weave 쿼리](/weave)를 작성하여 테이블의 데이터를 필터링하고 특정 행에 집중할 수 있습니다.

<Frame caption="로그된 테이블 데이터의 예.">
  <img src="https://mintcdn.com/wb-21fd5541-serverless-sft-revamp/k60V_Bn1-o89Fhr9/images/tutorials/monai/viz-1.gif?s=066a606124cd8e48ccd52c783565e6d0" alt="Logged table data" width="800" height="370" data-path="images/tutorials/monai/viz-1.gif" />
</Frame>

이미지를 열고 대화형 오버레이를 사용하여 각 세그멘테이션 마스크와 상호 작용하는 방법을 확인하세요.

<Frame caption="시각화된 세그멘테이션 맵의 예.">
  <img src="https://mintcdn.com/wb-21fd5541-serverless-sft-revamp/k60V_Bn1-o89Fhr9/images/tutorials/monai/viz-2.gif?s=f681ba61c1fa4ccf2dc7f7562f74302f" alt="Segmentation maps" width="800" height="452" data-path="images/tutorials/monai/viz-2.gif" />
</Frame>

<Note>
  **참고:** 데이터셋의 라벨은 클래스 간에 겹치지 않는 마스크로 구성됩니다. 오버레이는 라벨을 오버레이 내의 개별 마스크로 로그합니다.
</Note>

### 데이터 로딩

데이터셋에서 데이터를 로드하기 위한 PyTorch DataLoader를 생성합니다. DataLoader를 생성하기 전에 `train_dataset`의 `transform`을 `train_transform`으로 설정하여 트레이닝을 위한 데이터를 전처리하고 변환합니다.

```python theme={null}
# 트레이닝 데이터셋에 train_transforms 적용
train_dataset.transform = train_transform

# train_loader 생성
train_loader = DataLoader(
    train_dataset,
    batch_size=config.batch_size,
    shuffle=True,
    num_workers=config.num_workers,
)

# val_loader 생성
val_loader = DataLoader(
    val_dataset,
    batch_size=config.batch_size,
    shuffle=False,
    num_workers=config.num_workers,
)
```

## 모델, 손실 함수 및 옵티마이저 생성

이 튜토리얼은 [3D MRI brain tumor segmentation using auto-encoder regularization](https://arxiv.org/pdf/1810.11654.pdf) 논문을 기반으로 `SegResNet` 모델을 생성합니다. `SegResNet` 모델은 옵티마이저 및 학습률 스케줄러와 함께 `monai.networks` API의 일부인 PyTorch 모듈로 구현되어 제공됩니다.

```python theme={null}
device = torch.device("cuda:0")

# 모델 생성
model = SegResNet(
    blocks_down=[1, 2, 2, 4],
    blocks_up=[1, 1, 1],
    init_filters=16,
    in_channels=4,
    out_channels=3,
    dropout_prob=0.2,
).to(device)

# 옵티마이저 생성
optimizer = torch.optim.Adam(
    model.parameters(),
    config.initial_learning_rate,
    weight_decay=config.weight_decay,
)

# 학습률 스케줄러 생성
lr_scheduler = torch.optim.lr_scheduler.CosineAnnealingLR(
    optimizer, T_max=config.max_train_epochs
)
```

`monai.losses` API를 사용하여 손실 함수를 멀티 라벨 `DiceLoss`로 정의하고, `monai.metrics` API를 사용하여 해당 dice metrics를 정의합니다.

```python theme={null}
loss_function = DiceLoss(
    smooth_nr=config.dice_loss_smoothen_numerator,
    smooth_dr=config.dice_loss_smoothen_denominator,
    squared_pred=config.dice_loss_squared_prediction,
    to_onehot_y=config.dice_loss_target_onehot,
    sigmoid=config.dice_loss_apply_sigmoid,
)

dice_metric = DiceMetric(include_background=True, reduction="mean")
dice_metric_batch = DiceMetric(include_background=True, reduction="mean_batch")
post_trans = Compose([Activations(sigmoid=True), AsDiscrete(threshold=0.5)])

# 자동 혼합 정밀도(AMP)를 사용하여 트레이닝 가속화
scaler = torch.cuda.amp.GradScaler()
torch.backends.cudnn.benchmark = True
```

혼합 정밀도 추론을 위한 작은 유틸리티를 정의합니다. 이는 트레이닝 프로세스의 검증 단계 및 트레이닝 후 모델을 실행할 때 유용합니다.

```python theme={null}
def inference(model, input):
    def _compute(input):
        return sliding_window_inference(
            inputs=input,
            roi_size=(240, 240, 160),
            sw_batch_size=1,
            predictor=model,
            overlap=0.5,
        )

    with torch.cuda.amp.autocast():
        return _compute(input)
```

## 트레이닝 및 검증

트레이닝 전에 트레이닝 및 검증 실험 추적을 위해 나중에 `run.log()`로 로그할 메트릭 속성을 정의합니다.

```python theme={null}
run.define_metric("epoch/epoch_step")
run.define_metric("epoch/*", step_metric="epoch/epoch_step")
run.define_metric("batch/batch_step")
run.define_metric("batch/*", step_metric="batch/batch_step")
run.define_metric("validation/validation_step")
run.define_metric("validation/*", step_metric="validation/validation_step")

batch_step = 0
validation_step = 0
metric_values = []
metric_values_tumor_core = []
metric_values_whole_tumor = []
metric_values_enhanced_tumor = []
```

### 표준 PyTorch 트레이닝 루프 실행

```python theme={null}
with wandb.init(
    project="monai-brain-tumor-segmentation",
    config=config,
    job_type="train",
    reinit=True,
) as run:

    # W&B Artifact 오브젝트 정의
    artifact = wandb.Artifact(
        name=f"{run.id}-checkpoint", type="model"
    )

    epoch_progress_bar = tqdm(range(config.max_train_epochs), desc="Training:")

    for epoch in epoch_progress_bar:
        model.train()
        epoch_loss = 0

        total_batch_steps = len(train_dataset) // train_loader.batch_size
        batch_progress_bar = tqdm(train_loader, total=total_batch_steps, leave=False)
        
        # 트레이닝 단계
        for batch_data in batch_progress_bar:
            inputs, labels = (
                batch_data["image"].to(device),
                batch_data["label"].to(device),
            )
            optimizer.zero_grad()
            with torch.cuda.amp.autocast():
                outputs = model(inputs)
                loss = loss_function(outputs, labels)
            scaler.scale(loss).backward()
            scaler.step(optimizer)
            scaler.update()
            epoch_loss += loss.item()
            batch_progress_bar.set_description(f"train_loss: {loss.item():.4f}:")
            ## W&B에 배치 단위 트레이닝 손실 로그
            run.log({"batch/batch_step": batch_step, "batch/train_loss": loss.item()})
            batch_step += 1

        lr_scheduler.step()
        epoch_loss /= total_batch_steps
        ## W&B에 배치 단위 트레이닝 손실 및 학습률 로그
        run.log(
            {
                "epoch/epoch_step": epoch,
                "epoch/mean_train_loss": epoch_loss,
                "epoch/learning_rate": lr_scheduler.get_last_lr()[0],
            }
        )
        epoch_progress_bar.set_description(f"Training: train_loss: {epoch_loss:.4f}:")

        # 검증 및 모델 체크포인트 단계
        if (epoch + 1) % config.validation_intervals == 0:
            model.eval()
            with torch.no_grad():
                for val_data in val_loader:
                    val_inputs, val_labels = (
                        val_data["image"].to(device),
                        val_data["label"].to(device),
                    )
                    val_outputs = inference(model, val_inputs)
                    val_outputs = [post_trans(i) for i in decollate_batch(val_outputs)]
                    dice_metric(y_pred=val_outputs, y=val_labels)
                    dice_metric_batch(y_pred=val_outputs, y=val_labels)

                metric_values.append(dice_metric.aggregate().item())
                metric_batch = dice_metric_batch.aggregate()
                metric_values_tumor_core.append(metric_batch[0].item())
                metric_values_whole_tumor.append(metric_batch[1].item())
                metric_values_enhanced_tumor.append(metric_batch[2].item())
                dice_metric.reset()
                dice_metric_batch.reset()

                checkpoint_path = os.path.join(config.checkpoint_dir, "model.pth")
                torch.save(model.state_dict(), checkpoint_path)
                
                # W&B artifacts를 사용하여 모델 체크포인트 로그 및 버전 관리
                artifact.add_file(local_path=checkpoint_path)
                run.log_artifact(artifact, aliases=[f"epoch_{epoch}"])

                # W&B 대시보드에 검증 메트릭 로그
                run.log(
                    {
                        "validation/validation_step": validation_step,
                        "validation/mean_dice": metric_values[-1],
                        "validation/mean_dice_tumor_core": metric_values_tumor_core[-1],
                        "validation/mean_dice_whole_tumor": metric_values_whole_tumor[-1],
                        "validation/mean_dice_enhanced_tumor": metric_values_enhanced_tumor[-1],
                    }
                )
                validation_step += 1


    # 이 아티팩트의 로깅이 완료될 때까지 대기
    artifact.wait()
```

코드를 `wandb.log`로 계측하면 트레이닝 및 검증 프로세스와 관련된 모든 메트릭을 추적할 수 있을 뿐만 아니라, 모든 시스템 메트릭(이 경우 CPU 및 GPU)도 W\&B 대시보드에 로그됩니다.

<Frame caption="W&B에서의 트레이닝 및 검증 프로세스 추적 예.">
  <img src="https://mintcdn.com/wb-21fd5541-serverless-sft-revamp/nnIqJ01CGwOGYvb1/images/tutorials/monai/viz-3.gif?s=b35fe0d7b8eb00aa1feadb525ffbb6e9" alt="Training and validation tracking" width="800" height="452" data-path="images/tutorials/monai/viz-3.gif" />
</Frame>

W\&B run 대시보드의 artifacts 탭으로 이동하여 트레이닝 중에 로그된 다양한 버전의 모델 체크포인트 아티팩트에 엑세스하세요.

<Frame caption="W&B에서의 모델 체크포인트 로깅 및 버전 관리 예.">
  <img src="https://mintcdn.com/wb-21fd5541-serverless-sft-revamp/nnIqJ01CGwOGYvb1/images/tutorials/monai/viz-4.gif?s=040ffa621229511115fe15fb5ae28f7e" alt="Model checkpoints logging" width="800" height="452" data-path="images/tutorials/monai/viz-4.gif" />
</Frame>

## 추론

아티팩트 인터페이스를 사용하여 어떤 버전의 아티팩트가 최상의 모델 체크포인트인지 선택할 수 있습니다(이 경우 에포크별 평균 트레이닝 손실 기준). 또한 아티팩트의 전체 계보(lineage)를 탐색하고 필요한 버전을 사용할 수 있습니다.

<Frame caption="W&B에서의 모델 아티팩트 추적 예.">
  <img src="https://mintcdn.com/wb-21fd5541-serverless-sft-revamp/nnIqJ01CGwOGYvb1/images/tutorials/monai/viz-5.gif?s=fe5419162452802e4affd1e2a9572b9e" alt="Model artifact tracking" width="800" height="452" data-path="images/tutorials/monai/viz-5.gif" />
</Frame>

에포크별 평균 트레이닝 손실이 가장 좋은 모델 아티팩트 버전을 가져와 체크포인트 상태 사전을 모델에 로드합니다.

```python theme={null}
run = wandb.init(
    project="monai-brain-tumor-segmentation",
    job_type="inference",
    reinit=True,
)
model_artifact = run.use_artifact(
    "geekyrakshit/monai-brain-tumor-segmentation/d5ex6n4a-checkpoint:v49",
    type="model",
)
model_artifact_dir = model_artifact.download()
model.load_state_dict(torch.load(os.path.join(model_artifact_dir, "model.pth")))
model.eval()
```

### 예측값 시각화 및 그라운드 트루스 라벨과 비교

대화형 세그멘테이션 마스크 오버레이를 사용하여 사전학습된 모델의 예측값을 시각화하고 해당 그라운드 트루스 세그멘테이션 마스크와 비교하는 또 다른 유틸리티 함수를 생성합니다.

```python theme={null}
def log_predictions_into_tables(
    sample_image: np.array,
    sample_label: np.array,
    predicted_label: np.array,
    split: str = None,
    data_idx: int = None,
    table: wandb.Table = None,
):
    num_channels, _, _, num_slices = sample_image.shape
    with tqdm(total=num_slices, leave=False) as progress_bar:
        for slice_idx in range(num_slices):
            wandb_images = []
            for channel_idx in range(num_channels):
                wandb_images += [
                    wandb.Image(
                        sample_image[channel_idx, :, :, slice_idx],
                        masks={
                            "ground-truth/Tumor-Core": {
                                "mask_data": sample_label[0, :, :, slice_idx],
                                "class_labels": {0: "background", 1: "Tumor Core"},
                            },
                            "prediction/Tumor-Core": {
                                "mask_data": predicted_label[0, :, :, slice_idx] * 2,
                                "class_labels": {0: "background", 2: "Tumor Core"},
                            },
                        },
                    ),
                    wandb.Image(
                        sample_image[channel_idx, :, :, slice_idx],
                        masks={
                            "ground-truth/Whole-Tumor": {
                                "mask_data": sample_label[1, :, :, slice_idx],
                                "class_labels": {0: "background", 1: "Whole Tumor"},
                            },
                            "prediction/Whole-Tumor": {
                                "mask_data": predicted_label[1, :, :, slice_idx] * 2,
                                "class_labels": {0: "background", 2: "Whole Tumor"},
                            },
                        },
                    ),
                    wandb.Image(
                        sample_image[channel_idx, :, :, slice_idx],
                        masks={
                            "ground-truth/Enhancing-Tumor": {
                                "mask_data": sample_label[2, :, :, slice_idx],
                                "class_labels": {0: "background", 1: "Enhancing Tumor"},
                            },
                            "prediction/Enhancing-Tumor": {
                                "mask_data": predicted_label[2, :, :, slice_idx] * 2,
                                "class_labels": {0: "background", 2: "Enhancing Tumor"},
                            },
                        },
                    ),
                ]
            table.add_data(split, data_idx, slice_idx, *wandb_images)
            progress_bar.update(1)
    return table
```

예측 결과를 예측 테이블에 로그합니다.

```python theme={null}
run = wandb.init(
    project="monai-brain-tumor-segmentation",
    job_type="inference",
    reinit=True,
)
# 예측 테이블 생성
prediction_table = wandb.Table(
    columns=[
        "Split",
        "Data Index",
        "Slice Index",
        "Image-Channel-0/Tumor-Core",
        "Image-Channel-1/Tumor-Core",
        "Image-Channel-2/Tumor-Core",
        "Image-Channel-3/Tumor-Core",
        "Image-Channel-0/Whole-Tumor",
        "Image-Channel-1/Whole-Tumor",
        "Image-Channel-2/Whole-Tumor",
        "Image-Channel-3/Whole-Tumor",
        "Image-Channel-0/Enhancing-Tumor",
        "Image-Channel-1/Enhancing-Tumor",
        "Image-Channel-2/Enhancing-Tumor",
        "Image-Channel-3/Enhancing-Tumor",
    ]
)

# 추론 및 시각화 수행
with torch.no_grad():
    config.max_prediction_images_visualized
    max_samples = (
        min(config.max_prediction_images_visualized, len(val_dataset))
        if config.max_prediction_images_visualized > 0
        else len(val_dataset)
    )
    progress_bar = tqdm(
        enumerate(val_dataset[:max_samples]),
        total=max_samples,
        desc="Generating Predictions:",
    )
    for data_idx, sample in progress_bar:
        val_input = sample["image"].unsqueeze(0).to(device)
        val_output = inference(model, val_input)
        val_output = post_trans(val_output[0])
        prediction_table = log_predictions_into_tables(
            sample_image=sample["image"].cpu().numpy(),
            sample_label=sample["label"].cpu().numpy(),
            predicted_label=val_output.cpu().numpy(),
            data_idx=data_idx,
            split="validation",
            table=prediction_table,
        )

    run.log({"Predictions/Tumor-Segmentation-Data": prediction_table})


# 실험 종료
run.finish()
```

대화형 세그멘테이션 마스크 오버레이를 사용하여 각 클래스에 대한 예측된 세그멘테이션 마스크와 그라운드 트루스 라벨을 분석하고 비교합니다.

<Frame caption="W&B에서의 예측값 및 그라운드 트루스 시각화 예.">
  <img src="https://mintcdn.com/wb-21fd5541-serverless-sft-revamp/nnIqJ01CGwOGYvb1/images/tutorials/monai/viz-6.gif?s=7575c5dd313792776cc1e6f202c731c8" alt="Predictions and ground-truth" width="800" height="452" data-path="images/tutorials/monai/viz-6.gif" />
</Frame>

## 감사 인사 및 추가 리소스

* [MONAI Tutorial: Brain tumor 3D segmentation with MONAI](https://github.com/Project-MONAI/tutorials/blob/main/3d_segmentation/brats_segmentation_3d.ipynb)
* [WandB Report: Brain Tumor Segmentation using MONAI and WandB](https://wandb.ai/geekyrakshit/brain-tumor-segmentation/reports/Brain-Tumor-Segmentation-using-MONAI-and-WandB---Vmlldzo0MjUzODIw)
