Performance prediction of application executed on GPUs using a simple analytical model and machine learning techniques (2018)
- Authors:
- Autor USP: GONZALEZ, MARCOS TULIO AMARIS - IME
- Unidade: IME
- Sigla do Departamento: MAC
- Assunto: CIENCIA DA COMPUTACAO
- Keywords: BSP model; CUDA; CUDA; GPU architectures; Machine learning; Máquinas de aprendizado; Modelo BSP; Performance prediction; Predição de desempenho; Unidades de processamento gráfico
- Agências de fomento:
- Language: Inglês
- Abstract: As plataformas paralelas e distribuídas de computação de alto desempenho disponíveis hoje se tornaram mais e mais heterogêneas (CPUs, GPUs, FPGAs, etc). As Unidades de processamento gráfico são co-processadores especializados para acelerar operações vetoriais em paralelo. As GPUs têm um alto grau de paralelismo e conseguem executar milhares ou milhões de threads concorrentemente e ocultar a latência do escalonador. Elas têm uma profunda hierarquia de memória de diferentes tipos e também uma profunda configuração da memória hierárquica. A predição de desempenho de aplicações executadas nesses dispositivos é um grande desafio e é essencial para o uso eficiente dos recursos computacionais de máquinas com esses co-processadores. Existem diferentes abordagens para fazer essa predição, como técnicas de modelagem analítica e aprendizado de máquina. Nesta tese, nós apresentamos uma análise e caracterização do desempenho de aplicações executadas em Unidades de Processamento Gráfico de propósito geral. Nós propomos um modelo simples e intuitivo fundamentado no modelo BSP para predizer a execução de funções kernels de CUDA sobre diferentes GPUs. O modelo está baseado no número de computações e acessos à memória da GPU, com informação adicional do uso das memórias cachês obtidas do processo de profiling. Nós também comparamos três diferentes enfoques de aprendizado de máquina (ML): Regressão Linear, Máquinas de Vetores de Suporte e Florestas Aleatórias com o nosso modelo analítico proposto.Esta comparação é feita em dois diferentes contextos, primeiro, dados de entrada ou features para as técnicas de aprendizado de máquinas eram as mesmas que no modelo analítico, e, segundo, usando um processo de extração de features, usando análise de correlação e clustering hierarquizado. Nós mostramos que aplicações executadas em GPUs que escalam regularmente podem ser preditas com modelos analíticos simples e um parâmetro de ajuste. Esse parâmetro pode ser usado para predizer essas aplicações em outras GPUs. Nós também demonstramos que abordagens de ML proveem predições aceitáveis para diferentes casos e essas abordagens não exigem um conhecimento detalhado do código da aplicação, características de hardware ou modelagens explícita. Consequentemente, sempre e quando um banco de dados com informação de \\textit esteja disponível ou possa ser gerado, técnicas de ML podem ser úteis para aplicar uma predição automatizada de desempenho para escalonadores de aplicações em arquiteturas heterogêneas contendo GPUs
- Imprenta:
- Data da defesa: 25.06.2018
-
ABNT
AMARÍS GONZÁLEZ, Marcos Tulio. Performance prediction of application executed on GPUs using a simple analytical model and machine learning techniques. 2018. Tese (Doutorado) – Universidade de São Paulo, São Paulo, 2018. Disponível em: http://www.teses.usp.br/teses/disponiveis/45/45134/tde-06092018-213258/. Acesso em: 03 jan. 2026. -
APA
Amarís González, M. T. (2018). Performance prediction of application executed on GPUs using a simple analytical model and machine learning techniques (Tese (Doutorado). Universidade de São Paulo, São Paulo. Recuperado de http://www.teses.usp.br/teses/disponiveis/45/45134/tde-06092018-213258/ -
NLM
Amarís González MT. Performance prediction of application executed on GPUs using a simple analytical model and machine learning techniques [Internet]. 2018 ;[citado 2026 jan. 03 ] Available from: http://www.teses.usp.br/teses/disponiveis/45/45134/tde-06092018-213258/ -
Vancouver
Amarís González MT. Performance prediction of application executed on GPUs using a simple analytical model and machine learning techniques [Internet]. 2018 ;[citado 2026 jan. 03 ] Available from: http://www.teses.usp.br/teses/disponiveis/45/45134/tde-06092018-213258/
How to cite
A citação é gerada automaticamente e pode não estar totalmente de acordo com as normas
