พื้นฐานการปรับแต่ง LLM: การบีบอัดและการ Fine-Tuning

Large Language Models (LLMs) นั้นทรงพลังอย่างเหลือเชื่อ แต่ขนาดที่มหึมาของพวกมันมักจะทำให้การรันนั้นยากและมีค่าใช้จ่ายสูง คุณจะสามารถติดตั้งใช้งานโมเดลเหล่านี้บนฮาร์ดแวร์ทั่วไปโดยไม่สูญเสียประสิทธิภาพได้อย่างไร? คอร์สเรียนแบบเน้นข้อความนี้จะย่อยโลกที่ซับซ้อนของการปรับแต่ง LLM ให้เป็นบทเรียนที่อ่านเข้าใจง่าย คุณจะได้สำรวจวิธีลดขนาดโมเดล เร่งความเร็วในการทำ inference และประเมินประสิทธิภาพโดยใช้เทคนิคสมัยใหม่ในอุตสาหกรรม ด้วยการมุ่งเน้นไปที่แนวคิดเชิงปฏิบัติ คุณจะได้เรียนรู้วิธีทำให้โมเดล AI ที่หนักอึ้งกลายเป็นโมเดลที่เบาและเข้าถึงได้ สิ่งที่คุณจะได้เรียนรู้: ทำความเข้าใจโครงสร้างพื้นฐานของ LLM และเหตุผลที่ขนาดของโมเดลส่งผลต่อทรัพยากรการคำนวณ ประยุกต์ใช้เทคนิค quantization เพื่อลดการใช้หน่วยความจำในขณะที่ยังคงคุณภาพของการสร้างข้อความ สำรวจการทำ model pruning และ knowledge distillation เพื่อสร้างแนวคิดสำหรับโมเดลที่เล็กลงและเร็วขึ้น ฝึกฝนวิธีการ fine-tuning ที่มีประสิทธิภาพด้านพารามิเตอร์ เช่น LoRA และ QLoRA สำหรับแอปพลิเคชันเฉพาะทาง ประเมินประสิทธิภาพของ local LLM โดยใช้เครื่องมือและตัวชี้วัดการวัดประสิทธิภาพ (benchmarking) สมัยใหม่ ค้นพบวิธีที่โมเดลซึ่งได้รับการปรับแต่งแล้วจะรวมเข้ากับเวิร์กโฟลว์ Retrieval-Augmented Generation (RAG) สมัยใหม่ได้อย่างไร คอร์สนี้เริ่มต้นด้วยคำศัพท์ที่จำเป็นและกลไกพื้นฐานของการบีบอัดโครงข่ายประสาทเทียม (neural network compression) จากนั้นคุณจะก้าวหน้าผ่านสื่อการอ่านที่มีโครงสร้างและแบบฝึกหัดการเขียนที่ครอบคลุมวิธีการ fine-tuning และกลยุทธ์การติดตั้งใช้งานในเครื่อง (local deployment) ออกแบบมาสำหรับผู้เริ่มต้นและผู้ที่ต้องการเป็นนักปฏิบัติการด้าน machine learning คอร์สนี้ไม่จำเป็นต้องมีประสบการณ์มาก่อนเกี่ยวกับวิศวกรรม AI ขั้นสูง เริ่มอ่านวันนี้เพื่อสร้างทักษะพื้นฐานของคุณในการติดตั้งใช้งาน AI อย่างมีประสิทธิภาพ