Multi-Source Distilling Domain Adaptation

Abstract

Deep neural networks suffer from performance decay when there is domain shift between the labeled source domain and unlabeled target domain, which motivates the research on domain adaptation (DA). Conventional DA methods usually assume that the labeled data is sampled from a single source distribution. However, in practice, labeled data may be collected from multiple sources, while naive application of the single-source DA algorithms may lead to suboptimal solutions. In this paper, we propose a novel multi-source distilling domain adaptation (MDDA) network, which not only considers the different distances among multiple sources and the target, but also investigates the different similarities of the source samples to the target ones. Specifically, the proposed MDDA includes four stages: (1) pre-train the source classifiers separately using the training data from each source; (2) adversarially map the target into the feature space of each source respectively by minimizing the empirical Wasserstein distance between source and target; (3) select the source training samples that are closer to the target to fine-tune the source classifiers; and (4) classify each encoded target feature by corresponding source classifier, and aggregate different predictions using respective domain weight, which corresponds to the discrepancy between each source and target. Extensive experiments are conducted on public DA benchmarks, and the results demonstrate that the proposed MDDA significantly outperforms the state-of-the-art approaches. Our source code is released at: https://github.com/daoyuan98/MDDA.

Unsupervised Domain Adaptation in Activity Recognition: A GAN-Based Approach

“…Saito et al [37] employ a task-specific classifier as a discriminator to consider the relationship between target samples and class decision boundaries when aligning distributions. Zhao et al [50] have proposed multi-source distillation domain adaptation that first adversarially maps the target domain into each source domain and selects the source training samples that are close to the target domain to fine-tune the source classifier. Then the improved source classifiers will classify the mapped target samples, and the prediction results will be aggregated for a final prediction.…”

Adaptação de Domínio usando Camadas de Alinhamento de Domínio com Várias Fontes

“…Já a adaptação de domínio não-supervisionada de várias fontes para umúnico alvo (do inglês, multi-source to single-target domain adaptation)é ainda mais desafiadora.É um problema em evolução nosúltimos anos e que atualmente existem algumas propostas de solução, como M3SDA [11], DCTN [12], DARN [13], MDMN [14], MDAN [15] e MDDA [16]. De modo geral, todas as abordagens supracitadas adotam redes neurais de múltiplos fluxos, na qual a quantidade de fluxosé ajustada proporcionalmenteà quantidade de domínios.…”

MS-DIAL: Multi-Source Domain Alignment Layers for Unsupervised Domain Adaptation

“…Já a adaptação de domínio não-supervisionada de várias fontes paraúnico alvo (do inglês, multi-source to singletarget domain adaptation)é ainda mais desafiadora.É um problema emergente nosúltimos anos e atualmente existem algumas propostas de solução, como a correspondência de momento para adaptação de domínio de várias fontes (do inglês, moment matching for multi-source domain adaptation -M3SDA) [15], a rede de cauda profunda (do inglês, deep cocktail network -DCTN) [4], a rede de agregação de domínio (do inglês, domain aggregation network -DARN) [6], a rede de correspondência de vários domínios (do inglês, multiple domain matching network -MDMN) [16], as redes adversárias de domínio de várias fontes (do inglês, multisource domain adversarial networks -MDAN) [17] e a adaptação de domínio de destilação de múltiplas fontes (do inglês, multi-source distilling domain adaptation -MDDA) [18]. Em geral, as abordagens existentes baseiam-se em redes neurais de múltiplos fluxos na qual a quantidade de classificadores e/ou extratores de característicasé ajustada proporcionalmenteà quantidade de domínios.…”

“…Contudo, para realizar a adaptação de domínios, DCTN adota medidas de perplexidade e discriminadores de domínio, enquanto DARN emprega módulos de discrepância. MDDA [18]é uma rede adversária composta por um extrator de características e um classificador para cada domínio-fonte, cuja predição finalé dada pela média ponderada das predições de todos os domínios, na qual os pesos são obtidos a partir de métricas de discriminação de domínio.…”