Pruebas de Seguridad de IA y Red Teaming para Principiantes

A medida que la inteligencia artificial y los modelos de lenguaje grandes (LLMs) se vuelven centrales en el software moderno, asegurar estos sistemas contra amenazas novedosas es más crítico que nunca. Este curso te introduce a los principios centrales de las pruebas de seguridad de IA, ayudándote a comprender cómo los atacantes explotan los modelos de IA y cómo defenderlos. Pasarás de ser un principiante a un profesional capaz de identificar vulnerabilidades en aplicaciones habilitadas para IA. Aprenderás las metodologías del red teaming de IA, explorarás el panorama de amenazas único del aprendizaje automático y comprenderás cómo planificar evaluaciones de seguridad estructuradas. Lo que aprenderás: * Comprender las categorías fundamentales de las pruebas de seguridad de IA y cómo difieren de la seguridad de software tradicional; * Identificar vulnerabilidades críticas en LLMs, incluyendo inyección de prompts, envenenamiento de datos y divulgación de datos sensibles; * Aprender el OWASP Top 10 para LLMs para alinear tus pruebas con marcos de seguridad estándar de la industria; * Planificar y ejecutar ejercicios de red teaming de IA estructurados adaptados a modelos de lenguaje y aplicaciones integradas con IA; * Aplicar estrategias de mitigación de seguridad para proteger sistemas de generación aumentada de recuperación (RAG) y APIs de modelos. El curso comienza con terminología esencial y conceptos fundamentales de seguridad de IA antes de pasar a metodologías de prueba prácticas y escenarios de red teaming paso a paso. Diseñada específicamente para principiantes, desarrolladores de software y entusiastas de la seguridad, esta guía basada en texto no requiere experiencia previa en seguridad de IA o aprendizaje automático. Comienza tu viaje en las pruebas de seguridad de IA hoy mismo y aprende a proteger la próxima generación de aplicaciones inteligentes.