Machine Learning
2019
Aprendizado de Máquina - CPS863 - 2019/3

Professores
Localização
Horário de Atendimento
Overview
Referências gerais
Programação

Aula Data Ementa Slides Comentário
01 24/9 Informações sobre o curse ementa; Introdução, motivação.   Fazer a lista 1 (recordação de probabilidade/estatística
02 26/9 Motivação (cont.), o que é machine learning? supervised learning, unsupervised learning, classification, exemplos, aplicações
videoaula 1 (de 2017). Obs: usar Chrome. apertar o botão-direita, inferior para dessincronizar os slides
ler: Murphy chapt 1
03 01/10 Motivação (cont.), exemplos, aplicações, classification, regression, clustering.
videoaula 1 (de 2017). Obs: usar Chrome. apertar o botão-direita, inferior para dessincronizar os slides
ler: Murphy chapt 1
recordar Probabilidade/Estatística
04 03/10 Probabilistic Reasoning, likelihood, prior, posterior videoaula 2 (de 2017. Obs: usar Chrome. apertar o botão-direita, inferior para dessincronizar os slides) Murphy: 3.1, 3.2
Bishop: 1.1, 1.2.3
Fazer a lista 2
05 08/10 Likelihood, prior, posterior (cont), examples, classwork, likelihood function  
videoaula 3 (de 2017). Obs: usar Chrome. apertar o botão-direita, inferior para dessincronizar os slides
Murphy: 3.1, 3.2
Bishop: 1.1, 1.2.3
06 10/10 likelihood function (cont.), likelihood ratio test; Curve fitting, Linear regression (probabilistic) videoaula 4 (de 2017). Obs: usar Chrome. apertar o botão-direita, inferior para dessincronizar os slides Fazer a lista 3
07 15/10 Linear regression (cont.), Gaussian models, multivariate gaussian, MLE for multivariate guassian; introdução: mixture models for clustering videoaula 5 (de 2017). Obs: usar Chrome. apertar o botão-direita, inferior para dessincronizar os slides Bishop: 1.1, 1.2.3, 1.2.4, 1.2.5, 3.1, 3.1.1, 3.1.2, 3.1.3, 3.1.4;
Murphy: 7.1, 7.2, 7.3, 7.3.1, 7.3.2
08 17/10 Classifiers, generative classifiers, Descriminative Classifiers, logistic regression, naive Bayes. videoaula 7 (de 2017). Obs: usar Chrome. apertar o botão-direita, inferior para dessincronizar os slides) Fazer a lista 4

Murphy, classifiers: 3.5 (inicio), 3.5.1, 4.2.2, 4.2.3
Tom Mitchell: chapter 3 (Generative and discriminative classifiers: naive bayes and logistic regression)
09 22/10 Multivariate gaussian, MLE for multivariate guassian, mixture models; mixture models for clustering; Parameter estimation for mixture models; EM, K-means. videoaula 8 (de 2017). Obs: usar Chrome. apertar o botão-direita, inferior para dessincronizar os slides) Murphy: 11.1, 11.2, 11.2.1, 11.2.2, 11.2.3,11.3
Murphy: 11.4.1, 11.4.2
Bishop: chapter 9 (todo)
Notas de aula

Fazer a lista 5
10 24/10 Teoria da Informação: definição, variância, entropia, propriedades, exemplos, entropia condicional, KL divergency videoaula 9 (de 2017). Obs: usar Chrome. apertar o botão-direita, inferior para dessincronizar os slides) "Elements of Information Theory", Cover & Thomas
11 29/10 Não houve aula.    
12 31/10 Teoria da Informação (cont.)    
13 05/11 HMM: Introdução; aplicações e Markov Chains. Estudar Notas sobre Markov Chains Artigo referência da 1a_aula de HMM, com aplicações

bibliografia de aplicações (até 2001). Para se ter uma noção

aplicação em biologia

Biological Sequence Analysis: Probabilistic Models ...
14 07/11 Markov Chains (cont.); Hidden Markov models: Introdução; motivação; exemplos; problemas. Problema 1. videoaula 11 (de 2017). Obs: usar Chrome. apertar o botão-direita, inferior para dessincronizar os slides) artigo do Rabiner

Artigo sobre uma aplicação de HMM em redes

Murphy: 17.1, 17.2, 17.3;
Bishop: 13.2
15 12/11 Hidden Markov models: problema 2 (primeira parte, segunda parte) videoaula 12 (de 2017). Obs: usar Chrome. apertar o botão-direita, inferior para dessincronizar os slides)  
16 14/11 Hidden Markov models: problema 3, expectation maximization (alg Baum-Welch), problema 4, exemplos. videoaula 13 (de 2017). Obs: usar Chrome. apertar o botão-direita, inferior para dessincronizar os slides)

 
17 19/11 Markov Decision processes e Reinforcement learning (slides do livro do Russel) slides Sutton and Barto: Chap 4

Estudar as notas de aula
18 21/11 Primeiro Teste    
19 26/11 Reinforcement learning (cont.): Value Interation; Q-learning Sutton and Barto: Chap 6

Estudar as notas de aula
20 28/11 Redes Bayesianas  

slides
Probabilistic Graphical Models - Koller and Friedman, Cap 3

Estudar as notas de aula
21 3/12 Redes Bayesianas  

slides
slides
Probabilistic Graphical Models - Koller and Friedman, Cap 9

Estudar as notas de aula
22 5/12 Teste de Hipótese  

slides
slides
Video: Score test, Wald test, Likelihood Ratio test - intuition of each test


Listas de Exercícios
Provas