Analyzing Federated Learning Performance in Distributed Edge Scenarios

Abstract

Federated learning is a machine learning paradigm where many clients cooperatively train a single centralized model while keeping their data private and decentralized. This novel paradigm imposes many challenges, such as dealing with data that is not independent and identically distributed, spread among multiple clients that are not synchronized and may have limited computing power. These clients are often edge devices such as smartphones and sensors, which form a system that is heterogeneous, highly distributed by nature and difficult to manage. This work proposes an architecture for running federated learning experiments in a distributed edge-like environment. Based on this architecture, a set of experiments are conducted to analyze how the overall system performance is affected by different configuration parameters and varied number of connected clients.

Aprendizagem federada é um paradigma de aprendizagem de máquina onde diversos clientes treinam um único modelo de forma cooperativa enquanto mantêm seus dados privados e decentralizados. Esse paradigma inovador impõe muitos desafios, como lidar com dados que não são independentes e igualmente distribuídos, divididos entre clientes que não estão sincronizados e possuem poder de computação limitado. Esses clientes normalmente são dispositivos de borda, como celulares e sensores, que formam um sistema que é heteorgêneo, altamente distribuído por natureza e de difícil administração. Este trabalho propõe uma arquitetura para rodar experimentos de aprendizagem federada em um ambiente distribuído com poder de computação limitado. Baseado nessa arquitetura, uma série de experimentos são conduzidos para analisar como o desempenho do sistema é afetado pelas diferentes de parâmetros e pelo variado número de clientes.