Pengujian Keamanan AI dan Tim Merah untuk Pemula

Ketika kecerdasan buatan dan model bahasa besar (LLMs) menjadi bagian penting dari perangkat lunak modern, maka melindungi sistem-sistem tersebut dari ancaman baru menjadi lebih penting dibandingkan sebelumnya. Kursus ini memperkenalkan Anda pada prinsip-prinsip inti pengujian keamanan AI, membantu Anda memahami bagaimana para penyerang mengeksploitasi model AI dan bagaimana mempertahankan mereka. Anda akan bertransisi dari pemula menjadi praktisi yang mampu mengidentifikasi kerentanan dalam aplikasi yang didukung AI. Anda akan mempelajari metodologi tim merah AI, menjelajahi lanskap ancaman unik machine learning, dan memahami cara merencanakan penilaian keamanan yang terstruktur. Apa yang akan Anda pelajari: Mengerti kategori dasar pengujian keamanan AI dan bagaimana mereka berbeda dari keamanan perangkat lunak tradisional; Identifikasi kerentanan kritis dalam LLM, termasuk injeksi cepat, racun data, dan pengungkapan data sensitif; Belajar OWASP Top 10 untuk LLM untuk menyelaraskan pengujian Anda dengan keamanan standar industri Kerangka kerja; Merencanakan dan melaksanakan latihan tim merah AI yang terstruktur yang disesuaikan untuk model bahasa dan aplikasi terintegrasi AI; Terapkan strategi mitigasi keamanan untuk melindungi sistem dan model API generasi pencarian-ditambahkan (RAG). Kursus ini dimulai dengan terminologi dasar dan konsep dasar keamanan AI sebelum beralih ke metodologi pengujian praktis dan skenario tim merah langkah demi langkah. Dirancang khusus untuk pemula, pengembang perangkat lunak, dan penggemar keamanan, panduan berbasis teks ini tidak memerlukan pengalaman sebelumnya dalam keamanan AI atau machine learning. Mulailah perjalanan Anda ke pengujian keamanan AI hari ini dan pelajari cara melindungi generasi berikutnya dari aplikasi cerdas.