Ottimizzazione dei Modelli ML: Quantizzazione, Potatura e Progettazione per la Produzione

L'implementazione di modelli di machine learning in produzione richiede più della semplice alta accuratezza; esige velocità, efficienza e convenienza economica. Molti sviluppatori lottano con tempi di inferenza lenti e costi crescenti dell'infrastruttura cloud quando scalano i loro sistemi. Questo corso basato su testo ti guida dai concetti fondamentali del deployment di machine learning alle strategie di ottimizzazione utilizzate negli ambienti di produzione moderni. Imparerai come ridurre le dimensioni dei modelli e accelerare le velocità di esecuzione senza sacrificare le prestazioni predittive, preparandoti a progettare sistemi altamente efficienti. Cosa imparerai: * Comprendere i compromessi fondamentali tra dimensione del modello, latenza di inferenza e accuratezza; * Applicare tecniche di quantizzazione per convertire i pesi in formati a bit inferiori; * Implementare la potatura (pruning) del modello per rimuovere parametri ridondanti e snellire l'architettura di rete; * Esplorare la distillazione della conoscenza per trasferire capacità da modelli grandi ad alternative leggere; * Configurare strumenti di compilazione e runtime moderni come ONNX per ottimizzare l'esecuzione su diversi hardware; * Analizzare le metriche di produzione per misurare throughput, latenza e utilizzo delle risorse. Il corso inizia con la terminologia essenziale e le basi matematiche della dimensione del modello, per poi progredire attraverso spiegazioni scritte passo passo di potatura, quantizzazione e compilazione. Progettato per ingegneri del software, aspiranti ingegneri ML e data scientist che sono nuovi alla progettazione di sistemi, questo corso non richiede esperienza avanzata di programmazione di sistemi. Inizia a leggere oggi per costruire sistemi di machine learning più veloci, economici ed efficienti.