Introdução ao Fine-Tuning de LLM com LoRA e QLoRA

Modelos de linguagem de grande escala são poderosos prontos para uso, mas eles realmente se destacam quando customizados para tarefas específicas e conhecimento de domínio. Se você deseja treinar um modelo open-source em seus próprios dados de forma eficiente, você precisa dominar o fine-tuning eficiente em termos de parâmetros. Este curso guia você através do processo de pegar LLMs open-source fundamentais e adaptá-los aos seus casos de uso únicos. Você explorará a teoria central por trás da customização de modelos e lerá trechos de código práticos para aplicar as técnicas LoRA e QLoRA, transformando modelos gerais em ferramentas altamente especializadas. O que você aprenderá: - Compreender os conceitos fundamentais de modelos de linguagem de grande escala e fine-tuning eficiente em termos de parâmetros (PEFT). - Preparar, limpar e formatar conjuntos de dados de texto personalizados para um treinamento de modelo eficaz. - Aplicar técnicas LoRA e QLoRA para realizar o fine-tuning de modelos de forma eficiente em hardware padrão. - Configurar ambientes virtuais Python modernos e gerenciar dependências para projetos de AI. - Avaliar o desempenho do modelo com fine-tuning usando prompt engineering básico e métodos de teste sistemáticos. - Salvar, exportar e executar seus modelos open-source customizados localmente. O curso começa com a terminologia essencial de AI, definindo como as redes neurais processam texto, antes de passar para exercícios práticos de codificação baseados em texto. Você progredirá passo a passo, desde a preparação do conjunto de dados até a avaliação do modelo, construindo uma compreensão sólida do pipeline moderno de fine-tuning por meio de instruções escritas claras e exemplos de código. Este curso foi desenvolvido para iniciantes e aspirantes a desenvolvedores; não é necessária experiência prévia em machine learning, embora uma familiaridade básica com a leitura de código Python seja útil. Comece sua jornada na customização de AI e aprenda a fazer o fine-tuning do seu primeiro LLM hoje.