Transformers for breast cancer classification - Lindroos, Jari (2022)
Rintasyöpä on maailmanlaajuisesti naisten yleisin syöpä, sen varhainen havaitseminen voi merkittävästi vähentää siihen liittyvää kuolleisuutta. Histopatologista analyysiä tarvitaan kasvainten laadun määrittämiseksi solutasolla. Histopatologisten kuvien manuaalinen analyysi vie kuitenkin aikaa ja on altis virheille. Syväoppimiseen pohjautuvassa tutkimuksessa on esitetty menetelmiä rintasyövän tunnistamiseen, jotka voivat auttaa patologeja diagnosoimisessa. Konvoluutioneuroverkot ovat pitkään olleet käytetyin menetelmä rintasyövän luokitteluun syväoppimisessa, mutta ne ovat enimmäkseen rajoittuneet keskittymään kuvien paikallisiin ominaisuuksiin. Vision Transformer on osoittautunut suoriutumaan konvoluutioneuroverkkoja paremmin useissa kuvanluokittelutehtävissä, koska se pystyy keskittymään kuvien pitkän matkan riippuvuuksiin. Tämän tutkielman tavoitteena on arvioida Vision Transformer -pohjaisten mallien suorituskykyä vertaamalla niitä yleisesti käytettyyn konvoluutioneuroverkkoon ResNet-50, kokeilut suoritetaan PCam-aineistolla. Mallien koulutuksessa hyödynnämme sekä perinteistä siirto-oppimiseen perustuvaa lähestymistapaa että myös toimialuekohtaiseen esikoulutukseen perustuvaa lähestymistapaa. Osoitamme, että implementoiduilla Vision Transformer -malleilla saadaan parempia tuloksia kuin ResNet-50 -mallilla. Parhaalla mallilla B/16 saavutettiin paras AUC-tulos arvolla 0.97315. Toimialuekohtaisen esikoulutuksen käyttö parantaa suorituskykyä kaikissa malleissa paitsi Ti/16 malleissa.