Xây dựng Ứng dụng LLM Bảo mật: Agents, RAGs và Phòng chống Prompt Injection

Khi các Mô hình Ngôn ngữ Lớn (LLM) ngày càng được tích hợp vào các quy trình kinh doanh cốt lõi, các lỗ hổng bảo mật mới và quan trọng xuất hiện, đặc biệt là liên quan đến việc xử lý đầu vào của người dùng và quyền riêng tư dữ liệu. Khóa học này cung cấp kiến thức nền tảng và các kỹ thuật thực tế cần thiết để xác định, giảm thiểu và kiểm thử các rủi ro quan trọng nhất mà các ứng dụng LLM hiện đại phải đối mặt. Sau khi hoàn thành khóa học này, bạn sẽ có thể thiết kế, xây dựng và triển khai các hệ thống sử dụng LLM (như Agents và ứng dụng RAG) hoạt động an toàn và có thể dự đoán được, ngay cả khi đối mặt với các đầu vào thù địch. Bạn sẽ học được gì: * Hiểu các lỗ hổng OWASP LLM Top 10 và cách áp dụng mô hình hóa mối đe dọa cho các kiến trúc LLM phổ biến như RAG. * Triển khai các biện pháp phòng thủ mạnh mẽ chống lại prompt injection, indirect injection và rò rỉ dữ liệu nhạy cảm trong các hệ thống đã triển khai. * Cấu hình các agents LLM và các lệnh gọi hàm để ngăn chặn lạm dụng công cụ và thực thi giới hạn nghiêm ngặt về việc sử dụng tài nguyên và chu kỳ. * Thực hành sử dụng các phương pháp xác thực dữ liệu và kỹ thuật đầu ra có cấu trúc (như JSON Schema) để đảm bảo các phản hồi dự đoán được từ mô hình. * Áp dụng các kỹ thuật ẩn dữ liệu và làm sạch dữ liệu để bảo vệ thông tin nhạy cảm chảy qua pipeline LLM. * Tích hợp các bài kiểm tra bảo mật cơ bản (red teaming) và các cổng xác thực vào quy trình tích hợp và triển khai liên tục (CI/CD). Khóa học bắt đầu bằng việc định nghĩa các khái niệm bảo mật LLM chính và bối cảnh mối đe dọa hiện tại trước khi chuyển sang việc triển khai thực tế các mẫu mã phòng thủ và thực thi chính sách cho các hệ thống agents và RAG. Khóa học này được thiết kế cho các nhà phát triển, nhà khoa học dữ liệu và chuyên gia bảo mật mới làm quen với việc bảo mật các ứng dụng sử dụng LLM. Không yêu cầu kinh nghiệm trước đó về bảo mật LLM, chỉ cần kiến thức lập trình cơ bản. Bắt đầu xây dựng các hệ thống AI đáng tin cậy và có khả năng phục hồi ngay hôm nay.