Fundamentos de Otimização de LLM: Compressão e Fine-Tuning

Large Language Models (LLMs) são incrivelmente poderosos, mas seu tamanho massivo frequentemente os torna difíceis e caros de executar. Como você pode implantar esses modelos em hardware comum sem sacrificar o desempenho? Este curso baseado em texto divide o complexo mundo da otimização de LLM em lições escritas acessíveis. Você explorará como reduzir o tamanho dos modelos, acelerar a inferência e avaliar o desempenho usando técnicas modernas da indústria. Ao focar em conceitos práticos, você aprenderá como tornar modelos de AI pesados leves e acessíveis. O que você aprenderá: Entender a arquitetura fundamental de LLM e por que o tamanho do modelo impacta os recursos computacionais. Aplicar técnicas de quantization para reduzir o uso de memória enquanto mantém a qualidade da geração de texto. Explorar model pruning e knowledge distillation para conceituar modelos menores e mais rápidos. Praticar métodos de fine-tuning eficientes em parâmetros como LoRA e QLoRA para aplicações personalizadas. Avaliar o desempenho de LLM local usando ferramentas e métricas modernas de benchmarking. Descobrir como modelos otimizados se integram em pipelines modernos de Retrieval-Augmented Generation (RAG). O curso começa com terminologia essencial e a mecânica básica de compressão de redes neurais. A partir daí, você progredirá através de materiais de leitura estruturados e exercícios escritos que cobrem métodos de fine-tuning e estratégias de implantação local. Projetado para iniciantes e aspirantes a profissionais de machine learning, este curso não exige experiência prévia com engenharia de AI avançada. Comece a ler hoje para construir suas habilidades fundamentais em implantação eficiente de AI.