DALMINE
Dati Generali
Periodo di attività
Syllabus
Obiettivi Formativi
Il corso di Identificazione dei Modelli e Analisi dei Dati (IMAD) ha l'obiettivo di fornire allo studente i concetti teorici e pratici per la stima di modelli matematici a partire da osservazioni del fenomeno che si vuole modellare. Il corso è diviso in due parti. La prima parte tratta la stima di modelli statici e algoritmi di regressione e classificazione, i cui concetti sono propedeutici alla seconda parte del corso e ai corsi successivi di
- Adaptive Learning, Estimation and Supervision of dynamical systems
- Machine learning e Statistical learning.
La seconda parte del corso riguarda la stima di modelli dinamici, il cui utilizzo è fondamentale per mettere in pratica le tecniche di controllo e filtraggio dei sistemi dinamici.
Alla fine del corso lo studente sarà in grado di:
- Formulare un problema di stima, individuando le variabili del problema (e.g. dati di input e output)
- Stimare un modello statico o dinamico dai dati, attraverso la risoluzione di un problema di ottimizzazione
- Scegliere il modello più opportuno per la tipologia di dati a disposizione
- Valutare la bontà del modello stimato dai dati
- Applicare diverse metodologie di stima, a seconda della domanda a cui si vuol fornire una risposta tramite l’analisi del dato
Il corso è complementare ai corsi di:
- Control Systems Technology
- Controlli Automatici
- Controllo Avanzato e Multivariabile
Il corso fornisce le basi per il corso di:
- Adaptive learning, estimation and supervision of dynamical systems
Prerequisiti
I prerequisiti del corso sono i seguenti:
- Analisi dei sistemi dinamici a tempo continuo e discreto. Schemi a blocchi e retroazione. Risposta in frequenza. Teorema del campionamento. Trasformata di Fourier.
- Matrici, autovalori e autovettori, spazi vettoriali.
- Derivate, integrali, gradienti, limiti, punti stazionari di una funzione matematica.
- Variabili casuali, distribuzioni di probabilità, momenti di una distribuzione di probabilità.
Metodi didattici
Il percorso didattico proposto allo studente è il seguente:
1) Seguire la lezione frontale esposta con il supporto di diapositive. Esse sono tutte disponibili prima dell’inizio del corso ed è utile che lo studente visioni le diapositive di una lezione prima di seguire la lezione.
2) Studiare gli argomenti della lezione con l’ausilio del libro di testo, delle diapositive e degli appunti personali.
3) Rispondere agli esercizi MATLAB predisposti. Lo scopo di questi esercizi è verificare sia conoscenza dei concetti esposti, la loro comprensione e la capacità dello studente di utilizzarli
4) Seguire l’esercitazione frontale svolta alla lavagna (elettronica o tradizionale). Il testo e lo svolgimento degli esercizi sono tutti disponibili prima dell’inizio del corso ed è utile che lo studente visioni gli svolgimenti degli esercizi prima di seguire l’esercitazione.
6) Verso la fine delle lezioni lo studente è in grado di svolgere un tema d’esame, proposto con la sua soluzione.
Viene data molta importanza alla partecipazione attiva alle lezioni da parte degli studenti, che viene stimolata mediante un dialogo continuo. Gli studenti possono trovare il docente in ogni momento (meglio previo appuntamento) recandosi presso l'ufficio del docente (Laboratorio di Automatica).
Verifica Apprendimento
La verifica dell'apprendimento avviene attraverso una prova scritta finale della durata di 2 ore. Essa è abitualmente costituita da 6 quesiti: 3 esercizi e 3 domande teoriche. Tutti gli esercizi e le domande valgono da 5 a 8 punti.
Non sono previste prove in itinere.
Lo svolgimento dei compiti per casa concorre fino a +3 punti sul voto finale.
N.B. Per gli allievi informatici questo corso può essere integrato con Controlli Automatici. Il voto complessivo del corso integrato sarà calcolato come media (approssimata all'intero superiore) dei voti conseguiti nei due moduli.
Contenuti
INTRODUZIONE
Richiami di statistica. Variabili casuali scalari e multivariabili. Distribuzioni di probabilità continue e discrete. Teoria della stima e stimatori.
PARTE 1: SISTEMI STATICI
Regressione lineare. Formulazione del problema e funzione di costo. Stima a minimi quadrati. Metodo del gradiente discendente. Proprietà della stima a minimi quadrati. Esercizi in MATLAB
Stima a massima verosimiglianza. Stima di parametri della popolazione. Stima di modelli lineari.
Regressione logistica per la classificazione. Formulazione del problema e funzione di costo. Esercizi in MATLAB
Fondamenti di machine learning. Introduzione al machine learning e alla data science. Problemi supervisionati e non supervisionati. Fattibilità dell'apprendimento. Bias-variance tradeoff. Learning curves. Overfitting. Regolarizzazone. Validazione, cross-validazione e formule di complessità ottima. Esercizi in MATLAB
PARTE 2: SISTEMI DINAMICI
Processi stocastici. Processi stocastici stazionari. Momenti temporali e ergodicità. Trasformata Z e trasformata di Fourier. Densità spettrale di potenza. Stima spettrale. Sistemi dinamici lineari discreti deterministici. Sistemi dinamici lineari discreti stocastici. Esercizi in MATLAB
Famiglie di modelli stocastici. Famiglie di modelli a spettro razionale. Serie temporali: MA, AR, ARMA. Sistemi ingresso\uscita: ARX, ARMAX, FIR, OE, BJ.
Predizione. Scomposizione di Wold. Filtro passa-tutto e forma canonica. Predittore ottimo. Predittore ottimo per processi MA, ARMA, ARMX. Confronto con predittore di Kalman
Identificazione: concetti fondamentali. Metodi a minimizzazione dell'errore di predizione (PEM). Identificazione PEM di modelli ARX, ARMAX. Esercizi in MATLAB
Identificazione: analisi e complementi. Analisi asintotica dei metodi PEM. Persistente eccitazione. Valutazione dell'incertezza della stima PEM. Esercizi in MATLAB
Identificazione: valutazione del modello. Scelta della struttura e della complessità del modello. Validazione e formule di complessità. Analisi dei residui. Analisi dell'incertezza della stima. Simulazione vs. predizione del modello identificato. Esercizi in MATLAB
Altre informazioni
I materiali per seguire le lezioni e per la preparazione personale sono messi a disposizione prima delle lezioni.
L'enfasi del corso è prettamente teorica ma vengono forniti esempi di codice in Matlab. La messa in pratica degli argomenti avverrà maggiormente nel corso di Adaptive Learning, Estimation and Supervision of dynamical systems (ALES). Il corso permetterà di apprendere competenze molto richieste dalle imprese, come lo sviluppo di modelli analitici dai dati, fondamentale per professioni come Data Scientist.
Per gli allievi informatici questo corso può essere integrato con Controlli Automatici. Il corso di Controlli Automatici fornisce un complemento al corso di IMAD, in particolare per quanto riguarda approfondimenti sulla teoria della predizione tramite il predittore di Kalman e l'utilizzo dei modelli dinamici identificati per il controllo, come ad esempio il controllo a minima varianza.
Il corso fornisce anche le basi per successivo corso Adaptive Learning, Estimation and Supervision of dynamical systems (ALES), in cui si vedranno, tra le altre cose, i concetti di IMAD ma estesi a sistemi MIMO.
Si suggerisce inoltre di seguire anche il corso di Control Systems Technology per una conoscenza pratica delle tecnologie ingegneristiche che compongono una soluzione di controllo industriale.