DEEP LEARNING - 38113

insegnamento

ID:

38113

Dettaglio:

SSD: SISTEMI DI ELABORAZIONE DELLE INFORMAZIONI Durata: 48 CFU: 6

Sede:

DALMINE

Url:

Dettaglio Insegnamento:

INGEGNERIA INFORMATICA - 38-270/PERCORSO COMUNE Anno: 1

INGEGNERIA INFORMATICA - 38-270/PERCORSO COMUNE Anno: 2

Anno:

2025

Course Catalogue:

https://unibg.coursecatalogue.cineca.it/af/2025?co...

Periodo di attività

Primo Semestre (15/09/2025 - 20/12/2025)

Obiettivi Formativi

Comprendere i principi fondamentali del deep learning, inclusi l’ottimizzazione, l’addestramento delle reti neurali e la generalizzazione.
Progettare e implementare architetture avanzate di reti neurali come CNN, RNN e transformers.
Analizzare e applicare modelli generativi e tecniche di apprendimento delle rappresentazioni non supervisionato.
Identificare e affrontare le sfide nel deep learning, tra cui bias nei dati, cambiamenti di distribuzione, robustezza e adattamento al dominio.
Applicare i metodi di deep learning a problemi reali in ambiti come computer vision, elaborazione del linguaggio naturale, elaborazione audio e del parlato, e reinforcement learning.
Valutare criticamente e applicare tecniche di transfer learning, apprendimento semi-supervisionato e few-shot learning.
Valutare le implicazioni etiche e sociali dei sistemi di deep learning, con attenzione a equità, bias e interpretabilità.
Sviluppa le competenze per portare a termine un progetto di deep learning, passando dalla formulazione del problema al deployment del modello.

Prerequisiti

Questo corso è pensato per studenti che hanno già una certa esperienza con il machine learning e che sono a loro agio con la matematica di base e la programmazione. È consigliabile avere:

Una comprensione generale dei concetti fondamentali di algebra lineare, calcolo e probabilità a livello base.
Alcuna esperienza con il machine learning, come l’addestramento di classificatori o l’uso di algoritmi comuni. Il completamento di un corso introduttivo di ML (o esperienza equivalente) è utile ma non obbligatorio.
Competenze base di programmazione in Python, inclusa la familiarità con librerie come NumPy e Pandas. L’uso precedente di PyTorch o TensorFlow è un vantaggio, ma non indispensabile.

Metodi didattici

Il corso utilizzerà slide e Google Colab per esercitazioni pratiche di programmazione. Tutti i materiali saranno messi a disposizione degli studenti prima delle lezioni.

Note that all the lecture materials and the mode of lecture delivery will be in English.

Verifica Apprendimento

L’apprendimento degli studenti sarà valutato attraverso una combinazione di compiti regolari e un esame scritto finale.

Contenuti

Introduction to Machine Learning and Deep Learning: la prima parte copre le basi dell’apprendimento, incluse le tecniche di ottimizzazione, gli algoritmi basati sul gradiente, la generalizzazione e l’addestramento delle reti neurali.
Advanced Neural Networks: convolutional neural networks (CNNs) per dati di tipo immagine, recurrent neural networks (RNNs) per la modellazione sequenziale, e transformers, che costituiscono la base dei modelli moderni su larga scala.
Generative Models and Unsupervised Representation Learning: i modelli generativi includono Variational Autoencoders (VAEs), Generative Adversarial Networks (GANs) e diffusion models. Insieme a metodi di apprendimento delle rappresentazioni non supervisionato e self-supervised (es. DINO, SimCLR).
Challenges in Learning-Based Models: bias nei dataset, cambiamento di distribuzione, robustezza e generalizzazione, transfer learning, apprendimento semi-supervisionato e tecniche di adattamento che aiutano i modelli a funzionare bene su diversi compiti e domini.
Applications of Deep Learning:
Computer Vision: classificazione di immagini, rilevamento oggetti, segmentazione, generazione di didascalie, modelli visione-linguaggio e generazione di immagini da testo.
Natural Language Processing: embeddings, tokenizzazione, large language models come BERT e GPT, fine-tuning, prompting e traduzione automatica.
Audio and speech: caratteristiche audio, classificazione, ASR e modelli come Wav2Vec e Whisper.
Deep Reinforcement Learning: concetti base di RL e modelli di policy basati su deep learning.
Responsible AI: interpretabilità, equità, bias e considerazioni etiche nell’uso di sistemi di deep learning.