Show simple item record

dc.contributor.advisorGeyer, Claudio Fernando Resinpt_BR
dc.contributor.authorOrlandi, Fernanda Cavalheiropt_BR
dc.date.accessioned2023-11-11T03:25:22Zpt_BR
dc.date.issued2023pt_BR
dc.identifier.urihttp://hdl.handle.net/10183/267028pt_BR
dc.description.abstractAlgoritmos de Machine Learning (ML) possibilitam processar um conjunto de dados de entradas para gerar coeficientes que ajustem a saída a um resultado previamente conhecido, como menor erro possível, fazendo com que seja possível reconhecer e extrair padrões de um grande volume de dados (Big Data). Isso permite construir um modelo de aprendizagem para tomada de decisão. Essa aprendizagem pode ser de forma colaborativa, onde a aprendizagem envolve grupos de indivíduos trabalhando juntos para resolver determinado problema. Essa abordagem chama-se Collaborative Learning e demonstra desempenho bastante otimizado em relação aos métodos tradicionais de ML em várias aplicações, como por exemplo, compreensão de imagem e reconhecimento de voz. Também é possível ter uma aprendizagem de máquina em ambiente federado, mais conhecido como Federated Learning, onde os dispositivos compartilham dados não sensíveis entre si, como seus parâmetros, ajustando o modelo no dispositivo e o modelo global, através de hiperparâmetros. No entanto, um modelo de Federated Learning pode sofrer com dados non-IID (não independentes e identicamente distribuídos), que podem ser dados heterogêneos, surgindo de diversas fontes de dados e dispositivos. Os dados non-IID causam baixa convergência para algoritmos de ML e alto consumo de energia, aumentando também a largura de banda. Um dos conceitos da Teoria da Informação, que é a entropia, serve para medir o grau de aleatoriedade dos dados. Este trabalho propõe um modelo de Federated Learning que mitiga o impacto dos dados non-IID por meio de um algoritmo FedAvg-BE, que fornece aprendizado federado com a avaliação de entropia de borda para selecionar dados com melhor qualidade, em um ambiente de dados non-IID. A avaliação do desempenho do algoritmo, no melhor caso, demonstra 26% de economia de tempo de execução do modelo proposto em configurações de FL para datasets conhecidos da literatura. Os resultados dos 115 experimentos realizados neste trabalho demonstram a viabilidade do modelo proposto para mitigar o impacto dos dados non-IID.pt_BR
dc.description.abstractMachine Learning (ML) algorithms make it possible to process a set of input data to generate coefficients that adjust the output to a previously known result, with the smallest possible error, making it possible to recognize and extract patterns from a large volume of data (Big Data). This will allow building a learning model for decision making. This learning can be collaborative, where learning involves groups of individuals working together to solve a given problem. This approach is called Collaborative Learning and demonstrates highly optimized performance compared to traditional ML methods in several applications, such as image understanding and voice recognition. It is also possible to have machine learning in a federated environment, better known as Federated Learning, where IoT devices share non sensitive data with each other, such as their parameters, adjusting the model on the device and the global model, through hyperparameters. However, a Federated Learning model can suffer from non-IID (non-independent and identically distributed) data, which can be heterogeneous data, being produced from diverse data sources and devices. Non-IID data causes low convergence for ML algorithms and high power consumption, also increasing bandwidth. One of the concepts of Information Theory, which is entropy, serves to measure the degree of randomness of data. This work proposes a Federated Learning model that mitigates the impact of non-IID data through a FedAvg-BE algorithm, which provides federated learning with border entropy evaluation to select data with better quality, in a non-IID data environment. The evaluation of the performance of the algorithm, in the best case, demonstrates 26% of execution time savings of the proposed model in FL configurations for datasets known in the literature. The results of the 115 experiments carried out in this work demonstrate the viability of the proposed model to mitigate the impact of non-IID data.en
dc.format.mimetypeapplication/pdfpt_BR
dc.language.isoporpt_BR
dc.rightsOpen Accessen
dc.subjectBig datapt_BR
dc.subjectCollaborative learningen
dc.subjectFederated learningen
dc.subjectAprendizado de máquinapt_BR
dc.subjectAlgoritmospt_BR
dc.subjectHeterogeneous dataen
dc.subjectNon-IIDen
dc.titleMitigando o impacto de dados non-IID em federated learning com entropiapt_BR
dc.title.alternativeMitigating non-IID data impact in federated learning with entropy en
dc.typeDissertaçãopt_BR
dc.contributor.advisor-coAnjos, Julio Cesar Santos dospt_BR
dc.identifier.nrb001187560pt_BR
dc.degree.grantorUniversidade Federal do Rio Grande do Sulpt_BR
dc.degree.departmentInstituto de Informáticapt_BR
dc.degree.programPrograma de Pós-Graduação em Computaçãopt_BR
dc.degree.localPorto Alegre, BR-RSpt_BR
dc.degree.date2023pt_BR
dc.degree.levelmestradopt_BR


Files in this item

Thumbnail
   

This item is licensed under a Creative Commons License

Show simple item record