MultiVers : exploração dinâmica de espaço de projeto para sistemas CPU-FPGA em cloud utilizando síntese de alto nível

Abstract

Sistemas de servidores em Cloud têm mostrado cada vez mais importância comercial dentro do mundo da computação. Estes vêm explorando sistemas de execução colaborativa CPU-FPGA onde múltiplos clientes compartilham a mesma infraestrutura para maximizar a eficiência energética e escalabilidade, além de, em alguns casos, aumentar a qualidade de serviço percebida pelo usuário. Porém, o fornecimento de recursos é um desafio nestes ambientes, pois Kernels podem ser despachados para ambos, CPU e FPGA, concorrentemente numa grande variabilidade de cenários em termos de disponibilidade de recursos e características de carga de trabalho. Este trabalho primeiramente realiza experimentos para analisar a amplitude desse espaço de exploração e como diferentes versões de um mesmo Kernel acabam gerando melhores resultados, dependendo dos parâmetros escolhidos para avaliação. Decorrente desta análise, é proposto Multivers, uma Framework que aproveita o método de Síntese de Alto Nível para permitir maiores ganhos em tais sistemas colaborativos CPU-FPGA. Multivers explora vantagens da geração automática por Síntese de Alto Nível para produzir diferentes versões de cada requisição de entrada para Kernels, aumentando significativamente a exploração do espaço de projeto disponível e passível de otimização pelas estratégias de alocação do provedor de Cloud. Além de possuir a biblioteca gerada, que permite uma seleção de Kernels a partir de uma interface que permite a comunicação das necessidades atuais do Servidor de Cloud, Multivers também permite que o multi versionamento de Kernels e as estratégias de alocação trabalharem juntos, permitindo ajuste fino em termos de utilização de recursos, performance e energia; ou qualquer combinação destes parâmetros. A eficiência de Multivers é mostrada usando cenários de vida real de requisições de Cloud, compostos de uma diversidade de benchmarks e avaliando diferentes frações de FPGA disponíveis via regiões de reconfiguração parcial. Assim, atingindo um melhora média em makespan e energia de até 4.62× e 19.04×, respectivamente, sobre estratégias de alocação tradicional executando com Kernels não otimizados.

Cloud server systems have been growing in commercial importance in the computational field. These systems have been exploring CPU-FPGA collaborative systems in which multiple clients share the same infrastructure to maximize the energy efficiency and scalability and, in some cases, increase the quality of service perceived by the users. However, the providing of resources is a challenge in these environments. The Kernels can be dispatched to run in both CPU and FPGA, concurrently generating a great variety of scenarios in terms of resources and workload characteristics. This work is composed first by experiments to analyze the amplitude of this design space and how different versions of the same Kernel generate different results, according to the parameters chosen to be evaluated.