Reti Neurali 2

Francesco Masulli    Tel. +39 010 353 6604

Elementi di analisi matematica e di calcolo delle probabilità. Alcuni contenuti del corso Reti Neurali I

Capacità di sviluppare ed applicare metodologie di Soft Computing, con particolare riferimento alla Bioinformatica.

Il corso presenta gli aspetti principali del Calcolo Evoluzionario, degli Insiemi sfumati, dei Sistemi Logici Fuzzy, e approfondisce due classi di importanti macchine ad apprendimento: le Macchine a supporto vettoriale, e le Reti Neurali Ricorrenti. Per ogni argomento vengono presentate alcune applicazioni, con particolare riferimento alla Bioinformatica.

The course presents the principal topics of Evolutionary Computation, of Fuzzy Sets, of Fuzzy Logical Systems, and goes into the Support Vector Machines and Recurrent Neural Networks. For each topics some applications are shown, with special reference to Bioinformatics.

Calcolo Evoluzionario
Metodi di ricerca analitici, enumerativi e  casuali - Steepest Ascend/Descent 
Procedures - Simulated Annealing - Applicazione al problema TSP - Algoritmi 
Genetici - Teorema degli schemi - Funzioni GA-hard - Minimal Deceptive 
Problem - Convergenza prematura - Stagnazione - Operatori avanzati di 
selezione - Operatori avanzati di crossover - GA per ottimizzazione 
combinatoria - Stategie Evolutive .
Insiemi sfumati
Insiemi sfumati - Principio di estensione - Operazioni su insiemi fuzzy - 
Aritmetica Fuzzy - Fuzzy Clustering.
Sistemi Logici Fuzzy
Relazioni fuzzy - Teoria della possibilità - Variabili linguistiche - 
Ragionamento approssimato - Modus ponens generalizzato - Regola 
composizionale dell'inferenza - Sistemi logici fuzzy - Sistemi neuro-fuzzy 
-Applicazioni in Bioinformatica
Macchine a supporto vettoriale
Macchine lineari - Nuclei - Teoria della generalizzazione - Macchine a 
supporto vettoriale - Aspetti implementativi - Applicazioni in 
Bioinformatica.
Corso Integrativo: Reti Neurali Ricorrenti (Alessio Micheli)
Introduzione al problema ed alla metodologia: Il dominio dei dati e i compiti 
di apprendimento. Rappresentazione del tempo in reti neurali: forma esplicita 
ed implicita. - Modelli ed architetture. - Algoritmi di apprendimento: BPTT, 
RTRL. - Estensioni, Approcci relati ed argomenti di ricerca. - Applicazioni 
in  Bioinformatica.

Libri di testo 
* D.E. Goldberg. Genetic Algorithms in Search, Optimization and Machine 
Learning, Addison Wesley, 1989
* H.J. Zimmermann, Fuzzy set theory and its applications, 2ed., Kluwer 
Academic Publishers, 1996
Altri testi consigliati
* S. Haykin: Neural Networks: a comprehensive foundation, IEEE Press, 
1998. 
*  V. Kechman, Learning and Soft Computing, MIT Press, Cambridge, MA, 2001
* W.H. Press, S. A. Teukolsky, W.T. Vetterling, B.P. Flannery, Numerical 
Recepies in C: the art of scientific computing (2nd ed.), Cambridge 
University Press, 1992 Vedi anche sito web NUMERICAL RECEPIES.
* J.R. Koza, Genetic Programming, MIT Press, 1992 (MAT 68-1992-038IN).
* M. Mitchell, An Introduction to Genetic Algoritms, MIT Press, 1996 (MAT 
68-1996-197).
* H.P. Schwefel, Evolution and Optimum Seeking, J. Wiley & Sons, 1995.
* J.C. Bezdek, Pattern recognition with fuzzy objective function 
algorithms, Plenum Press, 1987.
* B. Bouchon-Meunier, La logique Flue, Presses Universitarie de France, 
1993.
* G.J. Klir & B. Yuan, Fuzzy Sets and Fuzzy Logic - Theory and 
Applications, Prentice Hall, 1995.
* V.S. Cherkassky & F. Mulier, Learning from data : concepts, theory, and 
methods, Wiley, 1998.
* N. Cristianini, J. Shawe,Taylor, An Introduction to Support Vector 
Machines : And Other Kernel-Based Learning Methods, Cambridge University 
Press, 2000.
* V. Vapnik, The Nature of Statistical Learning Theory, Springer-Verlag, 
1995. D.B. Fogel, Evolutionary Computation, IEEE Press, 1995.
* J.F. Kolen e  S. C. Kremer (curatori),  A Field Guide to Dynamical 
Recurrent Networks, John Wiley & Sons,  2001
* Baldi, Brunak: Bioinformatics: The Machine Learning Approach (Second 
Edition).
Ulteriore materiale didattico sarà reso disponibile agli studenti durante il 
corso.

Scritto e orale