이주영의 실험 일지

Train csv파일

링크

• image와 mask의 경로, 해당 이미지안에 있는 object들을 표시

Test csv파일

링크

Pseudo mask파일

링크

• update 21.05.04 18:15 (LB - 0.6933)

mask 파일

링크

Inference 파일

링크

• flip tta 추가
• 여러 모델에 대해 합하여 합쳐서 마스크 결과내도록 변경
• CustomDataLoader의 path 변경해서 사용할 것

Day 1

2021.04.26

Trials	mloU	Augmentation	Model

---

Day 2

2021.04.27

Trials	mloU	Augmentation	Model	code	config
1	cv-0.4097 LB-0.5107	ShiftScaleRotate, RandomBrightnessContrast	EfficientNetB3-ns/Unet	코드	-----
1	cv-0.4471 LB-0.5576	ShiftScaleRotate, RandomBrightnessContrast	EfficientNetB3-ns/Unet++	코드	-----

• CustomLoss(Dice + CE)
• seed: 42
• lr: 1e-3
• batch_size: 16
• weight_decay: 1e-6
• gradient_accumulation_steps: 2
• optimizer: Adam
• scheduler: Warmup

Day 3

2021.04.28

Trials	mloU	Augmentation	Model	config
2	cv-0.4267 LB-0.5477	ShiftScaleRotate, RandomBrightnessContrast	EfficientB2-ns/Unet++	config
3	cv0.3784 LB-x	ShiftScaleRotate, RandomBrightnessContrast	EfficientB4-ns/Unet++

• CustomLoss(Dice + CE)
• seed: 42
• lr: 1e-3
• batch_size: 16
• weight_decay: 1e-6
• gradient_accumulation_steps: 2
• optimizer: Adam
• scheduler: Warmup

Day 4

2021.04.29

Trials	mloU	Augmentation	Model	config
4	cv-0.5445(변경후) LB-0.5673	Heavy Aug	EfficientB6-ns/Unet++	config
5	cv-0.4914(변경전) LB-0.6172진행중	Heavy Aug	EfficientB4-ns/DeepLabV3+	config
6		Heavy Aug	ResNest101/UperNet	config
7		Heavy Aug	EfficientB6-ns/DeepLabV3+	config

Unet계열은 성능이 생각보다 좋지 않음 -> DeepLab계열로 갈아타는 중 / paperwithcodes에서 상위랭크에 포진되어있는 ResNest200학습(x, 너무 오래걸려서 포기)
진행중인 Effb6/DeepLabV3+에 실험5로부터얻은 마스크를 이용해 pseudo labeling적용

Day 5

2021.04.30

Trials	mloU	Augmentation	Model	config
8	---	heavy_aug	EfficientB3-ns/DeepLabV3+	---

7과 8에서 학습시킨 모델이 제대로 동작을 안함 무슨이유일까? tta적용과정에서 inference파일에 문제가 있는 듯 싶어 5에서 학습된 effb4를 가지고 진행하니 0.6366달성 -> 문제를 파악하지 못해 일단 effb4에 대해 fold 1,2,3학습 중 (5fold중 0학습완료)

Augmentation

• A.HorizontalFlip(p = 0.5),
• A.VerticalFlip(p = 0.5),
• A.OneOf([ A.RandomGamma(), A.GaussNoise()
  ], p=0.5),
• A.OneOf([ A.OpticalDistortion(p=0.4), A.GridDistortion(p=0.2), A.IAAPiecewiseAffine(p=0.4), ], p=0.5),
• A.OneOf([ A.Blur(blur_limit=1), A.MedianBlur(), ],p=0.3),
• A.ShiftScaleRotate(p=0.5),
• A.Cutout(),
• A.RandomBrightnessContrast(),
• A.Normalize(mean=CFG['mean'], std=CFG['std'], max_pixel_value=255.0, p=1.0),
• ToTensorV2()

Day 6

2021.05.03

Trials	mloU	Augmentation	Model	config	특이사항
9	0.6479	light_aug	se_resnext101_32x4d/DeepLabV3+	---	5-fold cv
10	0.6814	light_aug	resnext50/DeepLabV3+	config	5fold cv / pseudo-labeling
11	0.6873	light_aug	resnext50/DeepLabV3+	config	5fold cv / pseudo-labeling 2nd

• A.HorizontalFlip(p = 0.5),
• A.VerticalFlip(p = 0.5),
• A.ShiftScaleRotate(p=0.5),
• A.Cutout(),
• A.RandomBrightnessContrast(),
• A.Normalize(mean=CFG['mean'], std=CFG['std'], max_pixel_value=255.0, p=1.0),
• ToTensorV2()