Transition-Based Disfluency Detection using LSTMs

Abstract

We model the problem of disfluency detection using a transition-based framework, which incrementally constructs and labels the disfluency chunk of input sentences using a set of transition actions without syntax information. Compared with sequence labeling methods, it can capture non-local chunk-level features; compared with joint parsing and disfluency detection methods, it is free for noise in syntax. Experiments show that our model achieves state-of-theart F-score on both the commonly used English Switchboard test set and a set of in-house annotated Chinese data.

Segmentação de sentenças e detecção de disfluências em narrativas transcritas de testes neuropsicológicos

“…Para a tarefa de SS, trabalhos mais recentes fazem o uso de arquiteturas convolucionais, que conseguem aprender novas representações a partir da entrada , e de arquiteturas recorrentes, que conseguem modelar facilmente uma sequência de palavras e as dependências entre elas (TILK; 7 ALUMÄE, 2015;TILK;ALUMÄE, 2016;HOUGH;SCHLANGEN, 2017). Analogamente, modelos neurais profundos estão sendo bastante utilizados em conjunto com mecanismos de decodificação para detectar regiões de disfluência, com um maior foco em arquiteturas recorrentes (HOUGH;SCHLANGEN, 2015;ZAYATS;HAJISHIRZI, 2016;HOUGH;SCHLANGEN, 2017;WANG et al, 2017).…”

“…O primeiro é a falta de disponibilização de dados anotados, pois anotar diferentes tipos de disfluências é uma tarefa lenta e cansativa. O segundo é a falta de padronização em conjuntos de dados, métricas e estilos de anotação usados por pesquisadores, por exemplo, a palavra repair foi empregada por muito tempo como sinônimo de disfluência de edição (LIU, 2004), porém nas novas anotações do Switchboard ela é empregada como a região de disfluência correspondente ao enunciado corrigido (HOUGH; SCHLANGEN, 2015) e também como um tipo de disfluência de edição (WANG et al, 2017). Essas discrepâncias fazem com que seja ainda mais difícil comparar trabalhos de DD do que de SS e assim propor avanços para a área.…”

“…Os autores concluem que uma abordagem que integra informações sintáticas pode atingir um melhor desempenho. Em Wang et al (2017) os autores levam essa ideia adiante e constroem um método neural baseado em transições, e com isso melhoram o resultado para F 1 = 87.5.…”

“…Além disso, é possível ver com os trabalhos de Hough e Schlangen (2015) e Hough e Schlangen (2017) que o desempenho para transcrições automáticas é consideravelmente pior, até mesmo quando se usa informações prosódicas. Por fim, enfatizamos mais uma vez que é necessário comparar com bastante cautela os trabalhos relacionados, pois além de haver diferentes partições do córpus, diferentes modelagens de predição, e diferentes métricas de avaliação, muitos fazem o uso de várias informações extras como modelos de língua de fluência (WANG; NG; SIM, 2014), ou realizam diferentes pré-processamentos que impactam na distribuição das classes, como a eliminação de preenchimentos antes da detecção dos enunciados originais (WANG; CHE; LIU, 2016;WANG et al, 2017).…”

“…A primeira foi a inclusão de features manuais propostas em vários trabalhos relacionados (QIAN; LIU, 2013; WANG; NG; SIM, 2014; BERTERO et al, 2015;ZAYATS;HAJISHIRZI, 2016;WANG et al, 2017), as quais seguem a ideia de usar a identidade de palavras próximas. Mais especificamente, assumindo uma palavra na i-ésima posição da transcrição w i | 0 < i ≤ ϕ, adicionamos as seguintes features binárias (1 se a condição é verdadeira, 0 caso contrário):…”