Keselamatan dan Kerentanan AI: Jailbreaking, Suntikan, dan Guardrails

Kecerdasan buatan mengubah cara kita membina perisian, tetapi model bahasa besar (LLM) memperkenalkan risiko dan kerentanan keselamatan yang sama sekali baru. Memahami bagaimana model ini boleh dimanipulasi adalah penting bagi sesiapa sahaja yang membangun, menggunakan, atau berinteraksi dengan sistem AI moden. Kursus ini menyediakan anda untuk mengenali dan mengurangkan kerentanan AI yang kritikal. Anda akan beralih daripada pengguna AI umum kepada pengamal yang peka keselamatan yang mampu menganalisis suntikan prompt, mencegah jailbreak, dan melaksanakan pertahanan yang teguh untuk mengamankan aplikasi berasaskan LLM. Apa yang akan anda pelajari: - Memahami mekanik asas LLM dan mengapa ia terdedah kepada manipulasi. - Mengenal pasti risiko keselamatan umum termasuk suntikan prompt, jailbreaking, dan peracunan data. - Menganalisis bagaimana halusinasi berlaku dan cara meminimumkan kesannya terhadap output aplikasi. - Mengaplikasikan teknik prompting defensif dan meneroka rangka kerja guardrail moden untuk mengamankan input dan output AI. - Meneroka 10 kerentanan teratas OWASP untuk aplikasi LLM untuk selaras dengan piawaian keselamatan industri. - Berlatih mencipta dan menganalisis prompt berfokus keselamatan melalui latihan bertulis interaktif. Anda akan bermula dengan meneroka konsep dan terminologi keselamatan AI teras sebelum menyelami senario eksploitasi dunia sebenar. Melalui penjelasan bertulis yang jelas dan latihan analisis berstruktur, anda akan belajar cara mereka bentuk interaksi AI yang lebih selamat dan melaksanakan guardrails yang berkesan. Kursus ini direka untuk pemula, pembangun, dan peminat keselamatan yang ingin memahami landskap keselamatan kecerdasan buatan. Tiada pengalaman terdahulu dalam keselamatan siber atau kejuruteraan AI diperlukan, kerana kami membina semua konsep dari awal. Mula membaca hari ini untuk membina asas yang lebih selamat dan lebih berdaya tahan untuk projek AI anda.