Processamento de Linguagem Natural via Aprendizagem Profunda

Abstract

Humans need to communicate. Out of this basic need combined with the Web, a vast amount of text has been generated on a daily basis. Given the presence of a lot of information allocated in different resources, it becomes vital to enable machines to understand spoken and written texts. This chapter presents how Deep Learning techniques can solve Natural Language Processing (NLP) tasks (e.g., Text Classification and Sentence Summarization), aiming to benefit from the computational power currently available and the low need for feature engineering when using these models. Initially, some essential concepts about NLP and Deep Learning are presented. Then, different pre-processing and textual representation techniques are explained to be used as input in Deep Learning models. Finally, it is shown how to apply the knowledge acquired in real applications of NLP.

Aprendizado de máquina no apoio à transcrição e classificação da fala gaguejada: uma revisão sistemática da literatura

“…A capacidade de máquinas entenderem textos ou áudios por meio de linguagem natural é ainda um desafio [Oliveira et al 2022]. O Processamento de Linguagem Natural (PLN) envolve não somente este desafio de entendimento mas também o contexto de transcrições de fala.…”

Nova Economia da Amazônia

“…Além disso, há a oportunidade de criação de indústrias focadas na produção de aviões e barcos elétricos que teriam um impacto econômico significativo. O conjunto de soluções poderia, além da mitigação de emissões de GEE, apresentar outros aspectos favoráveis, como a melhoria da qualidade do ar, a geração de empregos e o reaproveitamento de resíduos orgânicos (De Oliveira, 2017). No entanto, a adoção das alternativas propostas esbarra em distintos desafios, como aqueles de ordem logística e de custos de produção de manufatura de navios e aviões, além de custos de aquisição tecnológica e de investimentos em infraestrutura de recarga para veículos elétricos (Bouman et al, 2017;Zhang e Fujimori, 2020) Os modelos utilizados pressupõem equilíbrio entre oferta e demanda energética, embora enfatizem o lado da produção -na medida em que buscam as soluções otimizadas para geração.…”

Uso de Meta-Learning em Tarefas de Aprendizado Profundo

“…O Aprendizado Profundo oferece uma nova visão sobre o aprendizado de representações a partir do uso de camadas sucessivas de representações cada vez mais significativas por meio de redes neurais. Não só isso, mas o principal motivo que influencia na escolha desses tipos de modelos é o fato de exigirem pouca engenharia de features [Neves Oliveira et al 2022b], podendo elencar automaticamente as características mais importantes presentes nos dados (como as linhas, texturas, antenas de uma formiga, patas de um gato, etc., em uma tarefa de classificação de imagens), conforme a arquitetura utilizada.…”

“…Natural [Neves Oliveira et al 2022a]. Dada a aplicabilidade desse aprendizado de representação em vários níveis por meio de muitas camadas de transformações, o Aprendizado Profundo substitui não apenas modelos superficiais de pipelines tradicionais de Aprendizado de Máquina, como também o processo trabalhoso da engenharia de features.…”