AI Cybersecurity: Red Teaming LLMs and RAG Pipelines

ในขณะที่ปัญญาประดิษฐ์ (AI) ได้ถูกรวมเข้ากับระบบซอฟต์แวร์อย่างลึกซึ้ง การรักษาความปลอดภัยของเทคโนโลยีเหล่านี้จึงกลายเป็นสิ่งสำคัญอันดับแรกสำหรับผู้เชี่ยวชาญด้านความปลอดภัย หลักสูตรนี้จะแนะนำคุณให้รู้จักกับโดเมนใหม่ของ AI cybersecurity โดยเน้นที่ว่า Large Language Models (LLMs) และ Retrieval-Augmented Generation (RAG) systems สามารถถูกโจมตีและป้องกันได้อย่างไร คุณจะได้เปลี่ยนจากการทำความเข้าใจแนวคิดพื้นฐานของ AI ไปสู่การวิเคราะห์ช่องโหว่ด้านความปลอดภัยที่ซับซ้อนซึ่งเป็นเอกลักษณ์ของ Machine Learning pipelines ด้วยการศึกษาภัยคุกคามในโลกแห่งความเป็นจริง คุณจะได้เรียนรู้วิธีคิดแบบผู้โจมตีเพื่อระบุจุดอ่อนเชิงรุกและนำกลยุทธ์การป้องกันที่แข็งแกร่งมาใช้ สิ่งที่คุณจะได้เรียนรู้: ทำความเข้าใจแนวคิดพื้นฐานด้านความปลอดภัยของ AI และช่องโหว่ที่เป็นเอกลักษณ์ของ Machine Learning models; ระบุเวกเตอร์การโจมตี LLM ทั่วไป รวมถึง prompt injection, data poisoning และ model inversion; วิเคราะห์สถาปัตยกรรม RAG pipeline เพื่อตรวจจับการรั่วไหลของข้อมูลและจุดเข้าถึงที่ไม่ได้รับอนุญาต; ประยุกต์ใช้กรอบความปลอดภัยที่ทันสมัย เช่น OWASP Top 10 สำหรับ LLM Applications กับสถานการณ์จริง; ฝึกฝนการออกแบบกลยุทธ์การบรรเทาผลกระทบเพื่อรักษาความปลอดภัยของแอปพลิเคชัน AI จากการบิดเบือนของฝ่ายตรงข้าม หลักสูตรเริ่มต้นด้วยคำจำกัดความที่จำเป็นและแนวคิดพื้นฐานของ AI ก่อนที่จะนำคุณไปสู่คำแนะนำทีละขั้นตอนที่เป็นลายลักษณ์อักษรเกี่ยวกับเทคนิคการโจมตีและรูปแบบการป้องกัน คุณจะเสริมสร้างความรู้ของคุณผ่านแบบฝึกหัดเชิงแนวคิดและการตรวจสอบความปลอดภัยที่เป็นลายลักษณ์อักษร หลักสูตรนี้ออกแบบมาสำหรับผู้เริ่มต้นด้าน cybersecurity, นักพัฒนาซอฟต์แวร์ และผู้เชี่ยวชาญด้าน IT ที่ต้องการเข้าสู่สาขา AI security โดยไม่จำเป็นต้องมีประสบการณ์ Machine Learning มาก่อน เริ่มต้นเส้นทางของคุณในการทำ AI red teaming วันนี้และเรียนรู้วิธีรักษาความปลอดภัยของอนาคตของแอปพลิเคชันอัจฉริยะ