Lexical Features Are More Vulnerable, Syntactic Features Have More Predictive Power

Novikova, Jekaterina; Balagopalan, Aparna; Shkaruta, Ksenia; Rudzicz, Frank

doi:10.18653/v1/d19-5556

Cited by 8 publications

(4 citation statements)

References 46 publications

Supporting

Mentioning

Contrasting

Order By: Relevance

“…As in [20], we computed lexical and syntactic complexity using [1] for L2 texts. A correlation between text level and lexical complexity is observed, as well as a relation between some texts and their syntactic complexity.…”

Section: Experimental Protocol and First Resultsmentioning

confidence: 99%

Speech and Eye Tracking Features for L2 Acquisition: A Multimodal Experiment

Kobylyanskaya

2022

Artificial Intelligence in Education. Posters and Late Breaking Results, Workshops and Tutorials, Industry and Innovation Track

View full text Add to dashboard Cite

Spoken language variation analysis is increasingly considered in multimodal settings combining knowledge from computer, human and social sciences. This work focuses on second language (L2) acquisition via the study of linguistic variation combined with eye-tracking measures. Its goal is to model L2 pronunciation, to understand and to predict through AI techniques the related metacognitive information concerning reading strategies, text comprehension and L2 level. We present an experimental protocol involving a reading aloud setup, as well as first data collection to gather L2 speech with associated eye-tracking measures.

show abstract

Section: Experimental Protocol and First Resultsmentioning

confidence: 99%

Speech and Eye Tracking Features for L2 Acquisition: A Multimodal Experiment

Kobylyanskaya

2022

Artificial Intelligence in Education. Posters and Late Breaking Results, Workshops and Tutorials, Industry and Innovation Track

View full text Add to dashboard Cite

show abstract

“…However, it is not a good fit in our case when different types of texts with different sizes are compared because the values are inversely proportional to the text size. Following [12] [13], and [14], we also use Shannon entropy as a measure of lexical diversity in the texts:…”

Section: Feature Setmentioning

confidence: 99%

Онлайн Жаңалықтарын Жіктеу Ерекшеліктерін Анықтау Және Талдау

Ualiyeva

2023

BULLETIN Series Physical and Mathematical Sciences

View full text Add to dashboard Cite

The number of documents, including online news that requires a deeper understanding and analysis grows every year. Machine Learning algorithms help us to classify texts accurately. However, finding suitable structures and techniques for text, including feature extraction, is difficult for researchers. This paper addresses the task of identifying and analyzing features to distinguish different genres of texts. We studied the main characteristics of each genre of news text like news, articles, interviews, and blogs to obtain more informative features. We have built our data set by collecting texts from open-access official information portals. Analysis of our data set and features that look at structural complexity, detail, and imaginative details in a text are helpful to distinguish our dataset. In particular, we use complexity (lexical diversity, lexical density, punctuation, average sentence length, number of personal pronouns, readability index), detail features (number of proper nouns in the text, numbers, month-related words), imaginative features (PoS tags, words-quantifiers, plural nouns) features. Our results suggest that our features provide effective representation to distinguish news texts from articles, blogs/opinions, and interviews with high accuracy. Keywords: Text Categorization, Text Mining, Feature Selection, Text Classification, Online News Classification. Жаңартылған ақпарат көлемінің экспоненциалды өсуі ақпаратты іздеу міндетін қиындатады. Машиналық оқыту алгоритмдері мәтіндерді жіктеу арқылы іздеу кеңістігін автоматты түрде азайтуға көмектеседі. Бұл жұмыста жаңалық мәтіндерін (жаңалықтар, мақалалар, сұхбаттар және блогтар) жіктеу белгілерін анықтау, талдау және таңдау мәселесі қарастырылады. Ақпараттық белгілерін алу үшін біз жаңалықтар мәтіндерінің әрбір жанрының негізгі сипаттамаларын анықтадық. Біз ашық қолжетімділікпен ресми ақпараттық порталдардан алынған жаңалықтар корпусын жасадық және мәтіннің құрылымдық кұрделілігін, егжей-тегжейлілігін және бейнеліліігін қарастыратын белгілерді анықтадық. Атап айтқанда, біз кұрделілік сипаттамаларын (лексикалық әртұрлілік, лексикалық тығыздық, тыныс белгілері, сөйлемнің орташа ұзақтығы, тұлғалық есімдіктердің саны, оқылу көрсеткіші), егжей-тегжейлі сипаттамалар (жалпы есімдер, сандар, айларға байланысты сөздер және т.б. саны), бейнелеу сипаттамаларын (PoS тегтері, квантор сөздері, көпше тұрдегі зат есімдер) қолданамыз. Нәтижелер осы белгілердің ұйлесімі жаңалықтар мәтіндерін жіктеудің жоғары дәлдігін қамтамасыз ететіндігін көрсетеді. Түйін сөздер: онлайн жаңалықтарды жіктеу, мәтінді өңдеу, мәтінді жіктеу, мұмкіндіктерді таңдау. Экспоненциальный рост количества актуальной информации затрудняет задачу информационного поиска. Алгоритмы машинного обучения помогают нам автоматически снижать пространство поиска путем классификации текстов. В данной работе рассматривается задача выявления, анализа и отбора признаков для классификации новостных текстов (новости, статьи, интервью и блоги). Для получения наиболее информативных признаков мы выявили основные характеристики каждого жанра новостных текстов. Мы создали корпус новостей, взятых из официальных информационных порталов с открытым доступом, и выявили признаки, которые рассматривают структурную сложность, детализацию и образность текста. В частности, мы используем характеристики сложности (лексическое разнообразие, лексическая плотность, пунктуация, средняя длина предложения, количество личных местоимений, индекс читабельности), характеристики детализации (количество имен собственных, цифр, слов, связанных с датами и пр.), характеристики образности (PoS-теги, слова-квантификаторы, существительные во множественном числе). Результаты показывают, что совокупность этих признаков обеспечивает высокую точность классификации новостных текстов. Ключевые слова: онлайн-новости, исследование текстов, классификация текстов, отбор признаков.

show abstract

“…Evaluation with automatic metrics We use the corpus-based evaluator by Nekvinda and Dušek (2021) to measure commonly used metrics on Mul-tiWOZ (Inform & Success rates, BLEU) as well as lexical diversity measures, namely the number of distinct trigrams in the outputs and bigram conditional entropy (Li et al, 2016;Novikova et al, 2019). State tracking joint accuracy is calculated with scripts adapted from TRADE .…”

Section: Response Generationmentioning

confidence: 99%

AARGH! End-to-end Retrieval-Generation for Task-Oriented Dialog

Nekvinda,

Dušek

2022

Proceedings of the 23rd Annual Meeting of the Special Interest Group on Discourse and Dialogue

View full text Add to dashboard Cite

We introduce AARGH, an end-to-end taskoriented dialog system combining retrieval and generative approaches in a single model, aiming at improving dialog management and lexical diversity of outputs. The model features a new response selection method based on an action-aware training objective and a simplified single-encoder retrieval architecture which allow us to build an end-to-end retrievalenhanced generation model where retrieval and generation share most of the parameters.On the MultiWOZ dataset, we show that our approach produces more diverse outputs while maintaining or improving state tracking and context-to-response generation performance, compared to state-of-the-art baselines.

show abstract

Lexical Features Are More Vulnerable, Syntactic Features Have More Predictive Power

Cited by 8 publications

References 46 publications

Speech and Eye Tracking Features for L2 Acquisition: A Multimodal Experiment

Speech and Eye Tracking Features for L2 Acquisition: A Multimodal Experiment

Онлайн Жаңалықтарын Жіктеу Ерекшеліктерін Анықтау Және Талдау

AARGH! End-to-end Retrieval-Generation for Task-Oriented Dialog

Contact Info

Product

Resources

About