Prévia do material em texto
Memória e movimentação de dados em CUDA Exercícios 1. Arquiteturas do tipo GPU (unidade de processamento gráfico) foram projetadas para executar milhares de threads ao mesmo tempo. Entretanto, para tirar o máximo de desempenho dessas arquiteturas, é necessário usar de forma inteligente as memórias disponíveis. Nesse sentido, sobre as memórias da GPU, qual é a mais rápida que o programador tem controle para utilizar como desejar? Você acertou! A. Memória compartilhada (shared). Memória compartilhada é a mais rápida que o programador tem poder para gerenciar, utilizando a diretiva __shared__. Os registradores são mais velozes, porém o programador não consegue decidir quais dados serão armazenados neles. As memórias do host e global são as mais lentas disponíveis. Por fim, a memória constante é uma memória somente leitura, mais veloz que a global, porém menos veloz que a memória compartilhada. 2. A memória constante da GPU é uma alternativa à memória global para armazenar dados apenas leitura. Quando são utilizadas as linguagens C/C++ e a biblioteca CUDA, copiam-se os dados da memória principal para a memória constante utilizando o comando cudaMemcpyToSymbol. Nessa linha, qual comando cria um vetor ou matriz na memória constante utilizando Python? Você acertou! C. cuda.const.array_like. O comando cuda.const.array_like permite ao programador alocar um vetor que será armazenado na memória de constantes. O comando syncthreads é utilizado para sincronizar todas as threads dentro de um mesmo bloco. Os comandos cuda.threadIdx.y e cuda.blockDim.x são utilizados para calcular o índice que cada thread irá calcular. Por fim, o comando cuda.shared.array aloca os dados na memória compartilhada da GPU. 3. Uma das maneiras de melhorar o desempenho de uma aplicação em CUDA que utiliza muita memória é por meio da memória compartilhada. Essa memória é compartilhada entre todas as threads de um mesmo bloco. Para utilizar essa memória, o programador toma todas as decisões, desde o tamanho, o tipo e o particionamento dos dados dentro dela. Nesse sentido, em Python, utilizando CUDA, qual parâmetro indica o tamanho da memória compartilhada que se deseja alocar por bloco? Resposta correta. D. shape. O parâmetro que define o tamanho da memória compartilhada de cada bloco é o shape. Por meio dele, é possível indicar o tamanho das matrizes que serão armazenadas em cada bloco de memória compartilhada. Os comandos dtype e argtypes indicam o tipo de dado da memória compartilhada e os tipos dos dados dos parâmetros do kernel CUDA. Já os comandos type e attribute não existem na biblioteca CUDA. 4. Durante o desenvolvimento de uma aplicação utilizando a biblioteca CUDA, o programador deve decidir quais vetores e matrizes devem ser copiados da memória da CPU para a memória da GPU, e vice-versa. Isso é feito utilizando as chamadas to_device e copy_to_host. Entretanto, às vezes, o vetor é apenas saída, e não é necessário copiar nenhum dado para a memória do device. Quando isso é necessário, qual é o comando utilizado? Resposta correta. A. device_array_like. Device_array_like cria um vetor ou matriz na memória do dispositivo sem copiar nenhum dado de entrada para ele. Os comandos copy from host e alloc não existem em CUDA. Ademais, o comando to_device copia os dados do host para o device, e o copy_to_host faz o inverso. 5. Ferramentas de profile são úteis para analisar o desempenho de aplicações sequenciais e paralelas. No caso da primeira, é possível identificar quais partes podem ser executadas de forma mais rápida utilizando arquiteturas paralelas. No segundo caso, pode-se melhorar o desempenho e identificar os limitadores de desempenho de aplicações paralelas já desenvolvidas. Qual é o nome da ferramenta de profile que permite traçar uma timeline e verificar todas as movimentações de dados e computações na GPU? Você acertou! A. Visual Profiler. A Visual Profiler é uma ferramenta que permite traçar uma timeline e verificar todas as movimentações de dados e computação na GPU. Essa ferramenta de perfilamento permite avaliar diversos aspectos da execução de kernels na GPU. O nvprof também é uma ferramenta de perfilamento da NVIDIA, mas só pode ser utilizado em linha de comando. As ferramentas perf e PAPI são utilizadas para obter informações sobre contadores de hardware tanto da CPU quanto da GPU. Por fim, o gprof é uma ferramenta para analisar o desempenho de programar escritos em C, Fortran e Pascal. Memória e movimentação de dados em CUDA Exercícios