Data Augmentation methods in natural language processing.
Abstract
Métodos de aumento de dados (AD) -uma família de técnicas desenhada para a geração de dados de treino sintéticos -têm demonstrado resultados notáveis em diversas tarefas de Aprendizado Profundo e Aprendizado de Máquina.Apesar de sua adoção ampla e bem-sucedida dentro da comunidade de visão computacional, técnicas de AD desenhados para tarefas de Processamento de Linguagem Natural (PLN) têm demonstrado avanço muito mais lento e limitado sucesso em ganho de desempenho.Como consequência, com a exceção da adoção de Back-Translation em tarefas de tradução, essas técnicas não tem sido exploradas tão profundamente e de forma ampla pela comunidade de PLN.Não há uma visão unificada ou análise comparativa entre os vários métodos de AD disponíveis.Além disso, ainda não se tem um entendimento prático adequado sobre o relacionamento entre AD e diversos outros aspectos importantes do desenho de um modelo, como dados de treino e parâmetros de regularização.Nesse trabalho, realizamos um profundo estudo de técnicas de AD em PLN, comparando seus desempenhos relativos sob diferentes cenários em tarefas de Análise de Sentimentos.Também propomos Deep Back-Translation, uma nova técnica de AD para PLN.Nós realizamos uma análise qualitativa e quantitativa do dado sintético, avaliamos seu ganho de desempenho e comparamos todos esses aspectos com procedimentos prévios de AD.
Keywords
Not available
Specialisations
Similar theses
- Explainable Transformers in Natural Language Processing George Mihaila · 2026
- Natural Language Processing in de menselijke hersenen Helena Balabin · 2026
- Coreference resolution in natural language processing Ruicheng Liu · Nanyang Technological University · 2025
- Machine learning and natural language processing for sentiment analysis on the internet Matija Jerin · University of Maribor · 2025
- Domain adaptation in Natural Language Processing Marina Sedinkina · Ludwig-Maximilians-Universität München · 2021
- Natural language processing for sentiment analysis Luke Camilleri · 2019
