Exploiting cloud heterogeneity for cost-efficient execution of HPC applications

Abstract

Using Cloud Computing as an environment for running high-performance applications is already a reality today, where many scientists already use the cloud as their primary execution environment or at least as an environment that can extend a running environment, such as a cluster of computers. However, as cloud providers have a diverse range of instances with many heterogeneous configurations. In terms of processing power, cloud instances range from instances with shared processing cores to large instances focused on running high-performance applications. In terms of price, instances vary from configurations with values under US$ 0.01 per hour up to instances that cost tens of dollars per hour. On the other hand, high-performance applications split into several tasks that are executed in parallel to solve a problem; such tasks end up presenting different computational demands, causing the application to present a certain level of imbalance. The combination of the wide variety of instances offering and the applications that have different demands leads us to a problem, where it is difficult for the user to choose the right instance or instances to run their application. This thesis addresses this problem by conducting a study on cloud heterogeneity, seeking to identify opportunities that can be exploited both in terms of cost reduction and acceptable execution performance, without presenting significant losses in execution time. After this study, we proposed a mechanism called CloudHet that uses as input the cloud instance profile and the task load profile of a given application; Using this input data, our mechanism optimizes to provide the user with an execution scenario that fits their application profile, focusing on cost efficiency. Our results have shown that according to the application behavior, it is possible to achieve significant cost reduction by using heterogeneous configurations compared to homogeneous configurations. We achieved gains in cost reduction up to 63%. Besides, the performance loss keeps a tolerable rate, up to 7%.

O uso de Computação em Nuvem como um ambiente para a execução de aplicações de alto desempenho já é uma realidade atualmente, onde diversos cientistas já utilizam a nuvem como ambiente primário de execução ou, ao menos, como um ambiente que pode estender um ambiente de execução tradicional, tal como um aglomerado de computadores. No entanto, como provedores de nuvem possuem uma oferta diversa de instâncias, com várias configurações heterogêneas tanto em termos de poder de processamento como de custo. Há variação de instâncias com cores de processamento compartilhado até grandes instâncias com foco em execução de aplicações de alto desempenho. Em termos de preço, há variação de instâncias que apresentam valores menores do que um centavo de dólar por hora até instâncias que custam dezenas de dólares pela utilização de uma hora. Por outro lado, as aplicações de alto desempenho são divididas em diversas tarefas que são executadas paralelamente para resolver um problema, tais tarefas acabam apresentando diferentes demandas computacionais, fazendo com que a aplicação apresente um certo nível de desbalanceamento. Juntando-se a grande variedade da oferta de instâncias com aplicações que possuem diferentes demandas, é um problema para o usuário fazer a escolha da instância, ou instâncias, certas para a execução de sua aplicação. Essa tese trata desse problema, realizando um estudo sobre a heterogeneidade da nuvem, buscando identificar oportunidades que podem ser exploradas tanto em termos de redução de custo como buscando um desempenho de execução aceitável, sem apresentar grandes perdas no tempo de execução. Após esse estudo, é proposto um mecanismo chamado CloudHet que utiliza como entradas o perfil das instâncias da nuvem e o perfil de carga das tarefas de uma dada aplicação; utilizando esses dados de entrada o mecanismo faz uma otimização para propor ao usuário um cenário de execução que se adeque ao perfil da sua aplicação, com foco em eficiência de custo. Os resultados mostram que, de acordo com o comportamento da aplicação, é possível obter uma redução significativa de custos usando configurações heterogêneas em comparação com homogêneas. A redução de custos foi de até 63%, com uma perda de desempenho tolerável de até 7%.