 |
PASQUALE DI VIESTI
Ricercatore t.d. art. 24 c. 3 lett. A
Dipartimento di Ingegneria "Enzo Ferrari"
|
Insegnamento: Learning in Communications
Electronics engineering (Offerta formativa 2024)
Obiettivi formativi
Le scoperte nel moderno apprendimento automatico stanno causando trasformazioni fondamentali in tutte le aree della scienza e della tecnologia. I sistemi di comunicazione non fanno eccezione. L'obiettivo di questo corso sarà quello di esplorare alcuni aspetti essenziali dell'apprendimento automatico, che possono trovare applicazione nei sistemi di comunicazione.
Prerequisiti
Conoscenze di base relative ai sistemi di comunicazione e alla statistica.
Programma del corso
1) Introduzione: confronto tra un approccio convenzionale alla progettazione di algoritmi e l'apprendimento automatico. Tassonomia dei metodi di machine learning. Componenti dell'apprendimento. Quando usare l'apprendimento automatico. Machine learning per le reti di comunicazione. Introduzione all'apprendimento profondo. Deep learning per le reti di comunicazione. (0.25 cfu)
2) Metodi di ottimizzazione: alcuni rilevanti metodi di ottimizzazione di ordine zero e primo ordine. Ottimizzazione del secondo ordine: discesa del gradiente. Metodo dei moltiplicatori di Lagrange. (0.25 cfu)
3) Regressione lineare e logistica (0,18 cfu)
4) Classificazione in due classi: formulazione come problema di regressione. Funzioni di costo di entropia incrociata e softmax. (0.125 cfu)
5) Support vector machine: casi di punti separabili e inseparabili. (0.25 cfu)
6) K-NN: descrizione e applicazione ad un problema specifico, vantaggi e svantaggi. (0.25 cfu)
7) Classificazione multiclasse: metodo ove versus all. Costo del perceptron multiclasse e sua ottimizzazione, confronto con l'approccio uno contro tutti, apprendimento in mini-batch. (0.25 cfu)
8) Reti neurali: architettura a singolo strato nascosto e due strati nascosti, architettura di una rete multistrato, funzioni di attivazione, algoritmo di backpropagation. Ottimizzazione nelle reti neurali, reti neurali convoluzionali, reti neurali ricorrenti. (0,445 cfu)
9) Analisi delle componenti principali: spanning set, codifica e decodifica, generazione dello spanning set sulla base dei dati disponibili, applicazioni (0.125 cfu)
10) Clustering: descrizione del problema, k-means clustering. (0.125 cfu)
11) Metodi ibridi: Classificazione dei metodi ibridi che combinano un approccio basato su modelli con un approccio basato sui dati. Deep unfolding e sua applicazione alla rilevazione nei sistemi MIMO. Deep unrolling (ISTA e LISTA). Elementi costitutivi neurali e loro applicazione alla cancellazione iterativa dell'interferenza. DNN-Aided Inference: descrizione della metodologia. Inferenza assistita da DNN: inferenza assistita da DNN indipendente dalla struttura e sua applicazione. Inferenza DNN-Aided orientata alla struttura e sua applicazione allo smoothing di Kalman. (0.75 cfu)
Metodi didattici
Sono stati utilizzati sia l'insegnamento in aula che la sperimentazione delle tecniche apprese in un laboratorio di computer su cui è stato installato l'ambiente di programmazione MATLAB.
Testi di riferimento
Materiale fornito dal docente (slides and MATLAB code are provided to the students).
Verifica dell'apprendimento
La valutazione del corso ha due componenti, un esame che valuta aspetti teorici e un progetto di classe. Gli studenti possono formare team per il progetto di classe e ogni team sceglie una recente applicazione dell'apprendimento automatico nei sistemi di comunicazione, legge documenti pertinenti ed esegue alcune simulazioni che illustrano risultati e confronti con schemi alternativi. Sebbene non ci si aspetti che gli studenti ottengano nuovi risultati, essi dovrebbero mostrare una buona comprensione degli strumenti e dell'applicazione, e dovrebbero fornire risultati di simulazione diversi da quelli già disponibili negli articoli tecnici.
Risultati attesi
1) Una comprensione generale dei problemi di apprendimento automatico e delle tecniche più comuni per l'apprendimento supervisionato e non supervisionato
2) Potenziale applicazione delle tecniche di apprendimento automatico nei problemi di comunicazione: in quali problemi le tecniche di apprendimento automatico possono fornire risultati migliori rispetto ai sistemi all'avanguardia, come combinare gli strumenti di successo esistenti con approcci di apprendimento automatico e i limiti degli strumenti di apprendimento automatico nei problemi di comunicazione.
3) Qualche esperienza con la codifica e con l'implementazione di alcune delle tecniche di apprendimento automatico apprese nei problemi di comunicazione e di elaborazione dei segnali.