Academia.eduAcademia.edu

Conversa entre o Sol e Plutao v1.5

2023, Conversa entre o Sol e Plutão

Abstract

Este texto discute como o ChatGPT funciona. Para isso, trata do treinamento dos "grandes modelos de linguagem" (LLMs - Large Language Models), no contexto do Processamento da Linguagem Natural (NLP - Natural Language Processing), uma das mais importantes categorias do Aprendizado de Máquina (Machine Learning). Também são discutidas em nível introdutório as redes neurais com arquitetura Transformer e seus mecanismos de Atenção, que são utilizadas no treinamento dos modelos GPT da OpenAI. O texto é destinado a consultores, executivos, desenvolvedores, pesquisadores e outros interessados em IA Generativa, no ChatGPT e nas redes neurais Transformer.