Multi-layer analysis of convolutional neural networks for transfer learning applications (2022)
- Authors:
- Autor USP: CONDORI, RAYNER HAROLD MONTES - ICMC
- Unidade: ICMC
- Sigla do Departamento: FCM
- DOI: 10.11606/T.55.2022.tde-25072022-165116
- Subjects: VISÃO COMPUTACIONAL; INTELIGÊNCIA ARTIFICIAL; REDES NEURAIS; APRENDIZADO COMPUTACIONAL
- Keywords: Activation maps; Classificação de imagens; Computer vision; Convolutional neural networks; Detecção de objetos; Image classification; Mapas de ativação; Object detection; Transfer learning; Transferência de conhecimento
- Language: Inglês
- Abstract: O aprendizado profundo tornou-se um tema quente na inteligência artificial devido à sua capacidade de modelar conceitos complexos a partir de conceitos simples. Nesse sentido, a rede neural convolucional (CNN) é um dos tipos mais populares de redes neurais atualmente utilizadas em visão computacional e áreas afins. Em geral, os seguintes fatores contribuíram para sua popularidade. (i) Com dados suficientes, a maioria das CNNs podem ser treinadas do zero e aprender representações poderosas que resolvem a tarefa em jogo. (ii) Por outro lado, com um volume limitado de dados, é possível também aprender representações poderosas adaptando o conhecimento de um modelo CNN pré-treinado por meio de uma estratégia de aprendizagem por transferência. Como resultado, as CNNs avançaram o estado da arte em muitas tarefas de reconhecimento visual, levando a inúmeras aplicações em vários campos fora da ciência da computação, como medicina e biologia. No entanto, muitos dos melhores esforços de pesquisa estão focados em melhorar o estado da arte só em alguns conjuntos de dados, como ImageNet para classificação de imagens e COCO para detecção de objetos. Porém, o progresso da pesquisa em muitos outros domínios é reduzido a aplicar cegamente as abordagens existentes ou reinventar tudo do zero, resultando no desenvolvimento de métodos falhos em ambos os casos. Portanto, esta tese se foca em entender por meio de experimentos sistemáticos por que e quando um modelo CNN pré-treinado apresentadesempenho inferior em uma determinada tarefa, a fim de propor soluções adequadas. Na primeira parte de nosso estudo, examinamos a tarefa de reconhecimento de textura e descobrimos que todos os trabalhos anteriores tendiam a se concentrar exclusivamente em conjuntos de dados de textura baseados em categorias, levando à ideia equívoca de que apenas as camadas mais profundas tinham as informações de textura necessárias para resolver essa tarefa. . Mostramos então, propondo estratégias de aprendizagem por transferência multicamadas, que a contribuição de camadas rasas não é trivial e deve ser utilizada em determinadas aplicações. Na segunda parte do nosso estudo, focamos em tarefas desafiadoras de detecção de objetos (detecção de grãos de pólen e localização de estômatos), onde observamos uma situação semelhante à do reconhecimento de texturas. Portanto, em ambos os casos, também aplicamos a análise multicamada para propor detectores rápidos de estágio único que podem lidar com imagens muito grandes com precisão e eficiência.
- Imprenta:
- Publisher place: São Carlos
- Date published: 2022
- Data da defesa: 17.05.2022
- Este periódico é de acesso aberto
- Este artigo é de acesso aberto
- URL de acesso aberto
- Cor do Acesso Aberto: gold
- Licença: cc-by-nc-sa
-
ABNT
CONDORI, Rayner Harold Montes. Multi-layer analysis of convolutional neural networks for transfer learning applications. 2022. Tese (Doutorado) – Universidade de São Paulo, São Carlos, 2022. Disponível em: https://www.teses.usp.br/teses/disponiveis/55/55134/tde-25072022-165116/. Acesso em: 04 ago. 2025. -
APA
Condori, R. H. M. (2022). Multi-layer analysis of convolutional neural networks for transfer learning applications (Tese (Doutorado). Universidade de São Paulo, São Carlos. Recuperado de https://www.teses.usp.br/teses/disponiveis/55/55134/tde-25072022-165116/ -
NLM
Condori RHM. Multi-layer analysis of convolutional neural networks for transfer learning applications [Internet]. 2022 ;[citado 2025 ago. 04 ] Available from: https://www.teses.usp.br/teses/disponiveis/55/55134/tde-25072022-165116/ -
Vancouver
Condori RHM. Multi-layer analysis of convolutional neural networks for transfer learning applications [Internet]. 2022 ;[citado 2025 ago. 04 ] Available from: https://www.teses.usp.br/teses/disponiveis/55/55134/tde-25072022-165116/ - Análise de textura em imagens baseado em medidas de complexidade
- Analysis of activation maps through global pooling measurements for texture classification
- Color-texture classification based on spatio-spectral complex network representations
- Evaluating deep convolutional neural networks as texture feature extractors
- Deep convolutional neural networks for plant species characterization based on leaf midrib
Informações sobre o DOI: 10.11606/T.55.2022.tde-25072022-165116 (Fonte: oaDOI API)
How to cite
A citação é gerada automaticamente e pode não estar totalmente de acordo com as normas
