PyTorch — Tensores e Autograd
Nas aulas 18 e 19 implementamos redes neurais e backpropagation do zero com NumPy. Isso foi fundamental para entender o que acontece internamente. Na prática, porém, usar NumPy puro tem limitações sérias:
Categoria
AI Programming with Python
Curso completo de programação em Python aplicada a IA: fundamentos da linguagem, NumPy, pandas, Matplotlib, álgebra linear, redes neurais e PyTorch. 30 aulas.
Treinamento de Redes Neurais com PyTorch
Um loop de treinamento robusto vai muito além do básico. Em projetos reais você precisa de:
CNNs — Redes Convolucionais para Imagens
Uma imagem de 224×224 pixels com 3 canais (RGB) tem 224×224×3 = 150.528 valores. Uma rede densa (MLP) com uma camada oculta de 512 neurônios precisaria de 150.528 × 512 ≈ 77 milhões de parâmetros só na primeira camada. Isso é computacionalmente proibitivo e ignora completamente a estrutura espacial da imagem.
RNNs e LSTMs — Dados Sequenciais
MLPs e CNNs assumem que os exemplos são independentes entre si. Mas muitos problemas do mundo real têm estrutura sequencial onde a ordem importa:
Word Embeddings e Representação de Texto
Modelos de ML trabalham com números. Texto é discreto, simbólico e sem ordem natural numérica. Como transformar "o gato sentou no tapete" em algo que uma rede neural possa processar?
Mecanismo de Atenção e Arquitetura Transformer
As RNNs têm três problemas fundamentais:
LLMs — GPT, BERT e Como Funcionam
Large Language Models (LLMs) são modelos Transformer treinados em quantidades massivas de texto com o objetivo de aprender a representação estatística da linguagem. O que os torna revolucionários não é a arquitetura em si (é o Transformer da aula anterior), mas a escala e a forma de treinamento:
Hugging Face — Usando Modelos Pré-treinados
Hugging Face é a plataforma que democratizou o acesso a LLMs. Com poucas linhas de código você acessa modelos que levaram meses e milhões de dólares para treinar.
Fine-tuning de Modelos de Linguagem
Modelos pré-treinados são generalistas — aprenderam estatísticas da linguagem em domínios variados. Para aplicações específicas, fine-tuning oferece:
Projeto Final — Aplicação NLP Completa
O projeto é um Sistema Inteligente de Análise de Feedback de Clientes que: