Monitoring and identifying bottlenecks in virtual network functions service chains

Abstract

Network functions perform an important role in the communication between clients and endservices in computer networks. These functions, traditionally provided by hardware-based appliances, are employed to achieve various objectives, such as security, addressing, routing, and load balancing. The virtualization trend that drove cloud computing has also been applied to network functions, resulting in the Network Functions Virtualization (NFV) concept. NFV implements hardware-based network functions (a.k.a middleboxes) as Virtual Network Functions (VNFs); with this paradigm shift, network providers benefit from: capital and operational expenditure reduction, acceleration of the time-to-market of novel solutions, and resource scaling. One of the main features of NFV is that VNFs can be chained and provisioned on demand, bringing elasticity and dynamicity to the network. An implication of the interdependency between VNFs is that resulting service chains may not work as expected, and because of that, it is crucial to determine which VNFs are having a negative impact on the service quality. Usually, network operators detect bottlenecks and quantify performance degradations by monitoring both virtual and physical resources, and through analytical modeling of the various components involved in network communication. However, NFV imposes additional characteristics that hinder the adoption of these approaches: the heterogeneity of environments with all sorts of VNF purposes (e.g., provide security, address translation, and performance optimization), and the unusual functioning of specific VNFs that rely on non-blocking I/O implementations In this thesis, a model to quantify the guiltiness of a VNF on being a bottleneck in a service chain is proposed. This model consists of a novel application of the Utilization Law from queuing networks theory, combined through a weighted sum of relevant metrics. These metrics were found in the literature, refined through numeric assessments on representative scenarios. In addition, an adaptive algorithm based on linear regression and neural networks is introduced to adjust the model parameters according to the environment particularities, such as the type and number of VNFs in the service. Experimental evaluations confirm the ability of the model to (i) detect bottlenecks, and (ii) quantify performance degradations. When capacity restrictions were applied to different types of VNFs, guiltiness metric was able to detect the root cause of degradations, being able to characterize 96.15% of the performance issues in a scenario with controlled injections. Furthermore, studies are carried out to establish the appropriate method for monitoring NFV environments. To this end, the Distributed Result-Aware Monitoring (DReAM) approach is proposed: a scalable monitor that can achieve near real-time bottleneck detection.

Em redes de computadores as funções de rede têm um papel significativo na comunicação entre clientes e serviços finais, sendo responsáveis por realizar diferentes tarefas, tais como, segurança, endereçamento, roteamento, caching e balanceamento de carga. Seguindo os passos que impulsionaram a consolidação da computação em nuvem, uma tendência atual tem sido virtualizar as funções de rede, estabelecendo um novo conceito: Network Functions Virtualization (NFV). Conceito este que tem se firmado como paradigma base das arquiteturas de redes de computadores do futuro. Em resumo, NFV permite, através de uma camada de virtualização, que funções de rede que executam em hardware dedicados tornem-se elementos de software independentes de hardware subjacentes, sendo então, nominadas como Virtual Netwok Functions (VNFs). Dentre os benefícios de NFV pode-se citar: redução de custos operacionais, agilidade para o estabelecimento de novas soluções e elasticidade de recursos. Além disto, uma das principais caraterísticas de NFV é a possibilidade do encadeamento de VNFs sob demanda, o que torna a composição de serviços dinâmica. Neste contexto, provedores de serviço utilizam grafos de encaminhamento para construir cadeias de VNFs para compor serviços de rede que atendam as demandas particulares de seus clientes. Como consequência, o desempenho de uma VNFs pode impactar as outras que compõem a cadeia, e assim, é crucial aos operadores de rede poder identificar quando, e o quanto, uma determinada VNF impacta negativamente a qualidade do serviço. Para lidar com esse problema, operadores de rede geralmente monitoram o consumo dos recursos e aplicam modelos analíticos, para, respectivamente, detectar gargalos e quantificar as degradações de desempenho Entretanto, algumas características intrínsecas à NFV limitam a utilização dessas abordagens: os ambientes de NFV são heterogêneos, ou seja, as VNFs atendem a diversos propósitos (e.g., segurança, endereçamento e melhoramento de desempenho); e, algumas implementações de VNFs incorrem em chamadas de E/S não bloqueantes para melhorar o seu desempenho. Para lidar com estas limitações, nesta tese é proposto um modelo para quantificar a propensão de uma VNF ser um gargalo da cadeia de serviços. A métrica resultante desta proposta é denominada guiltiness (culpabilidade em português), e consiste em uma soma ponderada de um conjunto de métricas relevantes. Este conjunto foi refinado, através de análises experimentais, do conjunto total de métricas disponível na literatura atual de NFV. O uso de pesos na métrica permite que a mesma seja aplicada mesmo em cenários heterogêneos, neste caso, um algoritmo de adaptação baseado em regressões não-lineares e redes neurais calcula os valores do pesos de acordo com as particularidades de cada cenário. Para comprovar a aplicabilidade do modelo na identificação de gargalos e na estimativa de degradação de desempenho, foram conduzidas avaliações experimentais em cenários representativos da literatura Os resultados destas avaliações mostram que a métrica de guiltiness serve ao seu propósito, uma vez que caracterizou corretamente as degradações de vazão quando gargalos eram gerados por limitação de recursos, e identificou 96.15% dos problemas de desempenho em um cenário com sobrecargas artificialmente injetadas. Adicionalmente à identificação de gargalos e estimativa de desempenho, estudos foram realizados para estabelecer o método apropriado de monitoração de ambientes NFV. Para este propósito, esta tese propõe o uso de uma abordagem de monitoramento distribuída e baseada no resultado (DReAM – Distributed Result-Aware Monitor), para tanto, agentes de monitoração computam um diagnóstico para identificar o estado das VNFs. Como principal benefício, esta abordagem permite identificar, quase imediatamente, quando uma VNF se torna um gargalo para o serviço de rede.