Diante dos constantes e acelerados avanços promovidos pelas tecnologias baseadas em sistemas de Inteligência Artificial, em que diversos conteúdos são gerados, como no caso do ChatGPT, por exemplo, surgem para o Direito Autoral desafios relacionados à proteção dessas obras, em razão de não estarem contemplados nas normas vigentes. Assim, este trabalho tem como problema de pesquisa questionar se o uso do ChatGPT viola Direitos Autorais. Logo, o artigo teve como objetivo geral investigar se o uso do ChatGPT viola Direitos Autorais. Como objetivos específicos: a) compreender a funcionalidade do ChatGPT; b) examinar normas de Direitos Autorais; c) Identificar possível lacuna legislativa quanto à proteção das produções geradas por ChatGPT. Trata-se de uma abordagem qualitativa e um trabalho exploratório, cujas técnicas utilizadas foram a documental e bibliográfica, a partir da análise de documentos recuperados em bases de dados, e revisão técnica de normas que versam sobre Direitos Autorais. A pesquisa se justifica em razão do grande potencial do ChatGPT em produzir obras passíveis de proteção, cuja hipótese não é prevista pelas normas vigentes. Como resultados, verificou-se que se trata de ferramenta com grande potencial para gerar conteúdos, cujo uso vem aumentando aceleradamente. No entanto, tendo em vista que é possível que o conteúdo produzido pela ferramenta em questão tenha sido gerado a partir de obras protegidas, há riscos de violação de Direitos Autorais. Ademais, não há qualquer previsão legal quanto à designação de quem possui a titularidade dos conteúdos gerados pela ferramenta ChatGPT. Portanto, concluiu-se pela atualização das normas que versam sobre os Direitos Autorais, a fim de que haja previsão expressa acerca da proteção do conteúdo gerado pela ferramenta ChatGPT, definindo-se quem deverá deter a titularidade desses conteúdos: o programador, o usuário, a Inteligência Artificial, ou se pertencerá ao domínio público da sociedade.