First and foremost, I thank God for everything.Then, I would like to thank my parents, Maria Terezinha and Genivaldo, for they have done their best to support me throughout my life. Among the many invaluable lessons I was given, perhaps the most important one is to be a good human being. I sincerely hope to live up to their expectations. Also, I extend my gratitude to my family, that regularly encourages me in my search for knowledge.This work would not have been possible without the precious help of my supervisors Prof. Dr. Hélio Pedrini and Prof. Dr. Zanoni Dias, who constantly shared their hardearned knowledge to solve the problems that cropped up during this research. I feel that I ended up trying their patience on some occasions, and for that I apologize.I also would like to thank my colleagues from the Visual Informatics Laboratory (LIV) of the Institute of Computing (IC), especially Gabriel Bianchin, Leodécio Braz, Vinicius Teixeira, Daiane Mendes, and Marianna Severo, who helped me with many things and with whom I shared many laughs and good moments.I should thank all my friends as well because they make my life substantially better and happier. I feel blessed to have them in my life, and I hope this continues for many more decades so we can have many more memorable moments and more stories to tell our grandchildren, should they come.Finally, I express my gratitude to Ji-chan -my beloved bicycle -who has been with me for about 25 years. Not only she makes my life easier but also more enjoyable and adventurous. She has been a superb partner and I am grateful for that.Last but not least, thank you, dear reader, for the interest in this modest work. I hope you find it easy to understand and maybe learn a thing or two.
ResumoAvanços recentes na área de Processamento de Linguagem Natural trouxeram melhores soluções para uma série de tarefas interessantes como Aceitabilidade Linguística, Respostas a Perguntas, Compreensão de Leitura, Inferência de Linguagem Natural e Análise de Sentimento. Neste trabalho, focamos em Análise de Sentimento, que é um campo de pesquisa voltado ao estudo computacional de sentimentos. A Análise de Sentimento possui muitas aplicações práticas como sistemas de recomendação, monitoramento de satisfação de usuários e previsão do resultado de eleições.As tarefas mencionadas são importantes para o avanço da Inteligência Artificial, pois são desafiadoras e podem ser aplicadas em vários problemas. A abordagem tradicional é construir um classificador específico para cada tarefa, entretanto, com a popularização do conceito de pré-treinamento seguido de ajuste fino, tornou-se muito comum a utilização de uma mesma arquitetura em diferentes problemas, por meio de ajuste fino com dados da tarefa em questão.Métodos como ULMFiT, ELMo, BERT e seus derivados obtiveram sucesso substancial em muitas tarefas de Processamento de Linguagem Natural, no entanto, eles compartilham uma desvantagem: para pré-treinar esses modelos do zero, quantidades substanciais de dados e recursos computacionais são necessári...