DeepLearning/Basic

[DL] Webly-supervised learning

yooj_lee 2023. 4. 5. 14:08
300x250

https://blog.salesforceairesearch.com/mopro-webly-supervised-learning-with-momentum-prototypes/

 

MoPro: Webly Supervised Learning with Momentum Prototypes

> TL; DR: We propose a new webly-supervised learning method which achieves state-of-the-art representation learning performance by training on large amounts of freely available noisy web images. Deep neural networks are known to be hungry for labeled data.

blog.salesforceairesearch.com

 

기존의 supervised learning은 이미지 label에 크게 의존함. 이를 self-supervision으로 해결하고자 하는 연구도 많지만, 다른 방향으로 webly supervised learning으로 해결하고자 하는 연구도 있음.

webly supervised learning이란 neural networks가 web에서 자동으로 수집한 weakly-labeled images에서 학습이 되는 경우임. 이 경우에 supervision은 이미지와 연관된 키워드나 태그가 이미지에 대한 라벨로 주어질 수 있음.

다만 이렇게 될 경우 label에 noise가 많이 끼어있거나 할 확률이 높을 것이며 이를 해결하는 것을 포함해서 연구를 수행하는 듯함(?).

 

 

300x250