Conceptos Básicos de Optimización de LLM: Compresión y Fine-Tuning

Los Large Language Models (LLMs) son increíblemente potentes, pero su tamaño masivo a menudo los hace difíciles y costosos de ejecutar. ¿Cómo puedes desplegar estos modelos en hardware cotidiano sin sacrificar el rendimiento? Este curso basado en texto desglosa el complejo mundo de la optimización de LLM en lecciones escritas y accesibles. Explorarás cómo reducir el tamaño de los modelos, acelerar la inference y evaluar el rendimiento utilizando técnicas modernas de la industria. Al centrarte en conceptos prácticos, aprenderás a hacer que los modelos de AI pesados sean ligeros y accesibles. Lo que aprenderás: Comprender la arquitectura fundacional de LLM y por qué el tamaño del modelo impacta los recursos computacionales. Aplicar técnicas de quantization para reducir el uso de memoria manteniendo la calidad de la generación de texto. Explorar el model pruning y la knowledge distillation para conceptualizar modelos más pequeños y rápidos. Practicar métodos de fine-tuning eficientes en parámetros como LoRA y QLoRA para aplicaciones personalizadas. Evaluar el rendimiento de LLM locales utilizando herramientas y métricas de benchmarking modernas. Descubrir cómo los modelos optimizados se integran en pipelines modernos de Retrieval-Augmented Generation (RAG). El curso comienza con la terminología esencial y la mecánica básica de la compresión de redes neuronales. A partir de ahí, progresarás a través de materiales de lectura estructurados y ejercicios escritos que cubren métodos de fine-tuning y estrategias de despliegue local. Diseñado para principiantes y aspirantes a profesionales de machine learning, este curso no requiere experiencia previa con ingeniería de AI avanzada. Comienza a leer hoy mismo para desarrollar tus habilidades fundamentales en el despliegue eficiente de AI.