Seguridad at mga Kahinaan ng AI: Jailbreaking, Injections, at Guardrails

Binabago ng artificial intelligence ang paraan ng paggawa natin ng software, ngunit ang mga large language models ay nagpapakilala ng ganap na bagong mga panganib at kahinaan sa seguridad. Ang pag-unawa kung paano manipulahin ang mga modelong ito ay mahalaga para sa sinumang nagde-develop, nagde-deploy, o nakikipag-ugnayan sa modernong mga sistema ng AI. Inihahanda ka ng kursong ito upang makilala at mabawasan ang mga kritikal na kahinaan ng AI. Ikaw ay magiging isang practitioner na may kamalayan sa seguridad mula sa pagiging isang pangkalahatang user ng AI na may kakayahang suriin ang prompt injections, pigilan ang jailbreaks, at magpatupad ng matatag na depensa upang ma-secure ang mga application na nakabatay sa LLM. Ano ang matututunan mo: - Unawain ang mga pangunahing mekanika ng LLM at kung bakit madali silang manipulahin. - Tukuyin ang mga karaniwang panganib sa seguridad kabilang ang prompt injections, jailbreaking, at data poisoning. - Suriin kung paano nangyayari ang hallucinations at kung paano mabawasan ang kanilang epekto sa mga output ng application. - Ilapat ang mga defensive prompting techniques at tuklasin ang modernong guardrail frameworks upang ma-secure ang mga input at output ng AI. - Tuklasin ang OWASP Top 10 vulnerabilities para sa mga application ng LLM upang umayon sa mga pamantayan ng seguridad ng industriya. - Magsanay sa paggawa at pagsusuri ng mga prompt na nakatuon sa seguridad sa pamamagitan ng interactive na nakasulat na pagsasanay. Magsisimula ka sa pagtuklas ng mga pangunahing konsepto at terminolohiya ng seguridad ng AI bago sumisid sa mga sitwasyon ng real-world exploit. Sa pamamagitan ng malinaw na nakasulat na paliwanag at nakabalangkas na pagsasanay sa pagsusuri, matututunan mo kung paano magdisenyo ng mas ligtas na interaksyon ng AI at magpatupad ng epektibong guardrails. Ang kursong ito ay idinisenyo para sa mga nagsisimula, developer, at mahilig sa seguridad na naghahanap upang maunawaan ang landscape ng seguridad ng artificial intelligence. Walang kinakailangang karanasan sa cybersecurity o AI engineering, dahil itinatayo namin ang lahat ng konsepto mula sa simula. Simulan ang pagbabasa ngayon upang bumuo ng mas ligtas, mas matatag na pundasyon para sa iyong mga proyekto ng AI.