Treinamento Paralelo de Redes Neurais usando o Modelo de Atores

Abstract

O Modelo de Atores usa concorrência baseada em processos que não compartilham memória e que se comunicam por troca de mensagens, e tem sido usado no treinamento federado de redes neurais. Esse artigo é um trabalho em andamento que investiga o treinamento paralelo de redes neurais em dispositivos multiprocessados, utilizando o Modelo de Atores para distribuir e processar batches de treinamento, com objetivo de melhorar algoritmos de treinamento.