1. Introduzione al Deep Learning
o Definizione e contesto storico
o Differenze tra Machine Learning, Deep Learning e Intelligenza Artificiale
o Applicazioni attuali del Deep Learning nei diversi ambiti (visione artificiale, linguaggio naturale, medicina, robotica)
2. Fondamenti matematici
o Algebra lineare: vettori, matrici, prodotto scalare, moltiplicazione matrice-vettore, operazioni con tensori
o Calcolo differenziale: derivate parziali, gradiente, funzione di costo
3. Reti neurali artificiali (ANN)
o Struttura base di una rete neurale: neurone, layer, funzioni di attivazione
o Architetture feedforward
o Funzione di perdita e sua minimizzazione
4. Backpropagation
o Calcolo del gradiente
o Catena delle derivate
5. Algoritmi di ottimizzazione
o Discesa del gradiente (SGD)
o Varianti avanzate: Momentum, RMSprop, Adam
o Learning rate e tecniche di tuning
o Overfitting, underfitting e tecniche di regolarizzazione (dropout, batch normalization)
6. Convolutional Neural Networks (CNN)
o Operazione di convoluzione
o Strutture tipiche (conv layer, pooling layer, fully connected layer)
o Applicazioni: classificazione immagini, segmentazione
7. Reti Neurali Ricorrenti (RNN)
o Reti sequenziali, memoria e stato
o Architetture evolute: LSTM, GRU
o Applicazioni su serie temporali e testi
8. Transformers
o Meccanismo di attenzione (self-attention)
o Architettura encoder-decoder
o Introduzione a modelli come GPT
o Applicazioni in NLP e oltre
9. Autoencoders (AE)
o Architettura encoder-decoder
o Riduzione dimensionale e compressione
o Variational Autoencoders (VAE)
o Applicazioni: denoising, anomaly detection
10. Modelli generativi
· GAN (Generative Adversarial Networks): struttura, training, applicazioni
· Comparazione GAN vs VAE
· Applicazioni in generazione immagini, data augmentation
11. Reinforcement Learning (RL)
· Ambiente, agente, politica, ricompensa
· Algoritmi base: Q-learning, DQN
· Relazione con il deep learning: Deep RL
· Esempi applicativi: giochi, robotica
12. Natural Language Processing (NLP)
· Tokenizzazione, word embeddings (Word2Vec, GloVe)
· Reti sequenziali vs transformer per NLP
English
Italiano