Asas Pengoptimuman LLM: Pemampatan dan Fine-Tuning

Large Language Models (LLMs) adalah sangat berkuasa, tetapi saiznya yang besar sering menjadikannya sukar dan mahal untuk dijalankan. Bagaimanakah anda boleh melaksanakan model-model ini pada perkakasan harian tanpa mengorbankan prestasi? Kursus berasaskan teks ini membahagikan dunia pengoptimuman LLM yang kompleks kepada pelajaran bertulis yang mudah diakses. Anda akan meneroka cara mengecilkan saiz model, mempercepatkan inference, dan menilai prestasi menggunakan teknik industri moden. Dengan memberi tumpuan kepada konsep praktikal, anda akan belajar cara menjadikan model AI yang berat menjadi ringan dan mudah diakses. Apa yang akan anda pelajari: * Fahami seni bina LLM asas dan mengapa saiz model memberi kesan kepada sumber pengkomputeran. * Aplikasikan teknik quantization untuk mengurangkan penggunaan memori sambil mengekalkan kualiti penjanaan teks. * Teroka model pruning dan knowledge distillation untuk mengkonsepkan model yang lebih kecil dan pantas. * Praktikkan kaedah parameter-efficient fine-tuning seperti LoRA dan QLoRA untuk aplikasi tersuai. * Nilai prestasi LLM tempatan menggunakan alat penanda aras dan metrik moden. * Temui cara model yang dioptimumkan disepadukan ke dalam saluran paip Retrieval-Augmented Generation (RAG) moden. Kursus ini bermula dengan terminologi penting dan mekanik asas pemampatan rangkaian saraf. Dari situ, anda akan maju melalui bahan bacaan berstruktur dan latihan bertulis yang merangkumi kaedah fine-tuning dan strategi pelaksanaan tempatan. Direka untuk pemula dan pengamal machine learning yang bercita-cita tinggi, kursus ini tidak memerlukan pengalaman terdahulu dengan kejuruteraan AI yang maju. Mula membaca hari ini untuk membina kemahiran asas anda dalam pelaksanaan AI yang cekap.