Keselamatan Siber AI: Red Teaming LLM dan Saluran Paip RAG

Apabila kecerdasan buatan semakin mendalam diintegrasikan ke dalam sistem perisian, mengamankan teknologi ini telah menjadi keutamaan kritikal bagi profesional keselamatan. Kursus ini memperkenalkan anda kepada domain keselamatan siber AI yang baru muncul, memfokuskan pada bagaimana model bahasa besar (LLM) dan sistem penjanaan dipertingkat pengambilan (RAG) boleh dieksploitasi dan dipertahankan. Anda akan beralih daripada memahami konsep AI asas kepada menganalisis kelemahan keselamatan kompleks yang unik untuk saluran paip pembelajaran mesin. Dengan mengkaji vektor ancaman dunia nyata, anda akan belajar bagaimana berfikir seperti penyerang untuk mengenal pasti kelemahan secara proaktif dan melaksanakan strategi pertahanan yang mantap. Apa yang akan anda pelajari: Memahami konsep keselamatan AI asas dan kelemahan unik model pembelajaran mesin; Mengenal pasti vektor serangan LLM biasa, termasuk suntikan prompt, peracunan data, dan penyongsangan model; Menganalisis seni bina saluran paip RAG untuk mengesan kebocoran data dan titik akses tanpa kebenaran; Mengaplikasikan rangka kerja keselamatan moden seperti OWASP Top 10 untuk Aplikasi LLM kepada senario dunia nyata; Mengamalkan reka bentuk strategi mitigasi untuk mengamankan aplikasi AI daripada manipulasi adversari. Kursus ini bermula dengan definisi penting dan konsep AI asas sebelum membimbing anda melalui panduan bertulis langkah demi langkah mengenai teknik eksploitasi dan corak penjajaran pertahanan. Anda akan mengukuhkan pengetahuan anda melalui latihan konseptual dan ulasan keselamatan bertulis. Kursus ini direka untuk pemula keselamatan siber, pembangun perisian, dan profesional IT yang ingin memasuki bidang keselamatan AI, tanpa memerlukan pengalaman pembelajaran mesin sebelumnya. Mulakan laluan anda dalam red teaming AI hari ini dan pelajari cara mengamankan masa depan aplikasi pintar.