Mengoptimumkan Generative AI pada Pemproses Arm untuk Edge dan Awan โ€” LearnFlat
โฑ 2 jam 48 min ๐Ÿ“š 28 pelajaran ๐ŸŽง Versi audio

Mengoptimumkan Generative AI pada Pemproses Arm untuk Edge dan Awan

Bina dan jalankan model generative AI berprestasi tinggi pada seni bina Arm menggunakan kuantisasi, sambungan vektor, dan pustaka pengoptimuman moden.

  • ๐Ÿ’ฌ Pengajar AI
    Tanya tentang mana-mana pelajaran dan dapatkan jawapan jelas serta-merta, bila-bila masa.
  • ๐Ÿ• Mula bila-bila masa
    Tiada jadual atau tarikh akhir โ€” belajar mengikut rentak sendiri, bila-bila masa.
  • ๐ŸŒ Dalam bahasa Melayu
    Pelajaran, tugasan dan sijil โ€” semuanya sepenuhnya dalam bahasa anda.

Tentang kursus ini

Menjalankan model generative AI secara cekap memerlukan kefahaman tentang perkakasan asas. Memandangkan pemproses Arm menguasai segalanya daripada peranti mudah alih hingga pelayan awan berskala besar, mempelajari cara mengoptimumkan model untuk seni bina ini ialah kemahiran penting bagi pembangun AI moden. Kursus berasaskan teks ini membimbing anda melalui proses menyesuaikan dan mempercepatkan beban kerja generative AI pada sistem berasaskan Arm. Anda akan beralih daripada memahami konsep asas perkakasan kepada melaksanakan teknik pengoptimuman lanjutan yang mengurangkan kependaman dan penggunaan memori secara drastik. Yang akan anda pelajari: - Memahami seni bina asas pemproses Arm, termasuk reka bentuk CPU dan hierarki memori - Mengaplikasikan teknik vektorisasi SIMD menggunakan arahan Neon dan Scalable Vector Extension (SVE) untuk mempercepatkan operasi matematik - Melaksanakan strategi kuantisasi bit rendah, seperti INT4 dan FP8, untuk memampatkan model bahasa besar tanpa mengorbankan ketepatan - Mengkonfigurasi dan menggunakan pustaka KleidiAI yang dioptimumkan untuk mempermudahkan operasi utama generative AI - Menyebar model yang dioptimumkan merentasi peranti edge yang terhad dan persekitaran awan yang boleh diskalakan - Menganalisis kemuncak hambatan prestasi menggunakan konsep pemprofilan moden dan alat runtime Anda akan bermula dengan terminologi teras perkakasan dan konsep asas pengkomputeran CPU sebelum meneroka strategi pengoptimuman praktikal. Melalui penjelasan bertulis langkah demi langkah dan contoh kod yang jelas, anda akan belajar mengkonfigurasi, mengoptimumkan, dan menilai model generatif untuk penyebaran dunia sebenar. Kursus ini direka untuk pembangun perisian, peminat AI, dan jurutera sistem yang baru dalam pengoptimuman peringkat perkakasan. Pengalaman sedia ada dalam pengaturcaraan perkakasan atau bahasa himpunan tidak diperlukan. Mulakan perjalanan anda dalam pengoptimuman AI peka perkakasan hari ini.

Apa yang anda dapat

  • ๐Ÿ“œ Sijil tamat
    Tambah ke profil LinkedIn anda
  • ๐Ÿ’ฌ Tutor AI peribadi
    Tersekat dalam pelajaran? Tanya tutor terbina dalam kamu apa sahaja, bila-bila masa.
  • ๐ŸŽง Termasuk versi audio
    Belajar sambil bergerak โ€” tanpa skrin
  • โ™พ๏ธ Akses seumur hidup
    Kembali bila-bila masa, tiada tamat tempoh
  • ๐Ÿ“ฑ Telefon atau komputer
    Berfungsi di mana-mana, mana-mana peranti
  • ๐Ÿ’ธ Pulangan 14 hari
    Tanpa soalan
  • โšก Pendek dan fokus
    2 jam 48 min kandungan praktikal

Ulasan

Belum ada ulasan โ€” jadilah yang pertama berkongsi pengalaman anda.

Tulis ulasan

โ˜†โ˜†โ˜†โ˜†โ˜†
Selepas hantar kami akan meminta anda log masuk โ€” draf disimpan.

Pelajar lain juga mengambil

Soalan lazim

Apa yang saya perlukan untuk mengikuti kursus ini? +

Hanya telefon atau komputer dengan internet. Tiada pemasangan, tiada perkakasan khas.

Bagaimana untuk membayar? +

Dengan kad melalui Stripe. Kami tidak menyimpan butiran kad โ€” Stripe menguruskannya dengan selamat.

Bolehkah saya dapatkan bayaran balik? +

Ya โ€” pulangan penuh dalam 14 hari, tanpa soalan.

Berapa lama saya akan mempunyai akses? +

Selamanya. Setelah membeli, kursus adalah milik anda โ€” boleh lawat semula bila-bila masa.

Adakah saya akan mendapat sijil? +

Ya. Setelah tamat, anda akan menerima sijil yang boleh ditambah ke profil LinkedIn anda.

Direka untuk pelajar dalam
Teknologi Reka bentuk Kewangan Pemasaran Kesihatan Pendidikan Hospitaliti Pembuatan