Explorando aprendizado por reforço para detecção e mitigação de ataques DDoS em redes de comunicação

Abstract

À medida que o número de sistemas conectados em redes de comunicação aumenta, tam bém cresce a atenção de atores maliciosos a esses sistemas e, consequentemente, a preo cupação com a proteção dos dados sensíveis dos usuários. Ataques DDoS são considera dos um dos principais riscos à segurança, sobrecarregando a infraestrutura e impedindo o acesso legítimo aos sistemas. Estes ataques, muitas vezes realizados por meio de BotNets, têm se tornado mais frequentes e de maior escala, representando um desafio significativo para a detecção e mitigação eficazes. Esses ataques estão em constante evolução, exigindo sistemas de detecção adaptáveis e eficientes. Neste contexto, propõe-se um modelo de de tecção de ataques distribuídos de negação de serviço baseado em aprendizado por reforço. Este modelo diminui a necessidade de grandes conjuntos de dados categorizados e etapas de treinamento, uma vez que os agentes de detecção podem ajustar seu comportamento de acordo com suas necessidades. Além disso, a capacidade de aprendizado contínuo dos agentes permite a detecção de novos tipos de ataques sem intervenção humana. A mode lagem proposta foi analisada através da criação de cenários de ataque com base em dados sintéticos contendo diversos tipos de ataques DDoS. Os resultados sugerem que o modelo baseado em aprendizado por reforço consegue detectar e mitigar ataques DDoS eficiente mente, adaptando-se a novos tipos de ataques sem a necessidade de retreinamento.

As the number of connected systems in communication networks increases, so does the attention of malicious actors to these systems and, consequently, the concern for protect ing users’ sensitive data. DDoS attacks are considered one of the main security risks, overloading infrastructure and preventing legitimate access to systems. These attacks, of ten carried out through BotNets, have become more frequent and larger in scale, posing a significant challenge for effective detection and mitigation. These attacks are constantly evolving, requiring adaptable and efficient detection systems. In this context, we propose a reinforcement learning-based distributed denial-of-service attack detection model. This model reduces the need for large labeled datasets and training steps, as detection agents can adjust their behavior according to their needs. Additionally, the agents’ continuous learning capability allows for the detection of new attack types without human interven tion. The proposed model was evaluated by creating attack scenarios based on synthetic data containing various types of DDoS attacks. The results suggest that the reinforcement learning-based model can efficiently detect and mitigate DDoS attacks, adapting to new attack types without the need for retraining.