Currículo

Introdução à Aprendizagem Profunda IaAP

Contextos

ECTS

6.0 (para cálculo da média)

Objectivos

OA1. Compreender o Campo da Aprendizagem Profunda OA2. Adquirir Conhecimento das Diferentes Arquiteturas de Redes Neuronais OA3. Desenvolver Proficiência na Implementação e Treino de Redes Neuronais OA4. Compreender a Arquitetura dos Transformadores OA5. Compreender os Modelos Generativos

Programa

P1. Introdução à Aprendizagem Profunda - História, principais aplicações e casos de estudo P2. Redes Neuronais Densas (MLP) P3. Redes Neuronais Convolucionais (CNNs) - Fundamentos, arquiteturas populares (LeNet, AlexNet, VGG, ResNet) e aplicações. P4. Redes Neuronais Recorrentes (RNNs) - Fundamentos, necessidade de LSTMs para dependencias distantes - Aplicações em previsão de séries temporais e processamento de linguagem natural P5. Implementação e treino de Redes Neuronais - Construção de modelos - Técnicas de treino, validação e avaliação - Ajuste de hiperparâmetros e técnicas de regularização P6. Transformadores - Fundamentos e arquitetura - O mecanismo de atenção e auto-atenção - Modelos BERT e GPT - Uso de transformadores em NLP e noutras áreas, tais como visão computacional. P7. Modelos Generativos - Autoencoders, Autoencoders Variacionais (VAEs) e redes adversárias generativas (GANs)

Método de Avaliação

Avaliação ao longo do semestre: Teste Intermédio (25%) + PROJETO (25%, em grupo) + Teste Final (50%, após o fim das aulas). Avaliação por exame: Teste individual (50%, cobrindo toda a matéria) + prova prática (50%, a realizar em computador). A avaliação por exame ocorre sempre que o estudante optar por esta modalidade ou não tenha obtido nota positiva na avaliação ao longo do semestre. Pode ser realizada na 1ª época, 2ª época ou época especial (Artº 14 do RGACC). A nota final do PROJETO é fixada para cada grupo através de uma apresentação e dependerá do código, da documentação apresentada e do desempenho dos estudantes na apresentação. As perguntas dos testes podem envolver aspetos relativos ao trabalho. Nenhum dos componentes de avaliação requer uma nota mínima.

Carga Horária

Bibliografia

Principal

• * Deep Learning. Ian Goodfellow and Yoshua Bengio and Aaron Courville, 2016 (https://www.deeplearningbook.org/). MIT Press * Deep learning in Python/ Pytorch, Eli Stevens, Luca Antiga, Thomas Viehmann (2020). Manning Publications (Free book): ∙ ∙ ∙

Secundária

• * Neural Networks and Deep Learning. Michael A. Nielsen. Determination Press, 2015 (Creative Commons, http://neuralnetworksanddeeplearning.com/) * Artificial Intelligence Engines: A Tutorial Introduction to the Mathematics of Deep Learning: James Stone 2019 Sebtel Press * Introduction to Deep Learning: Eugene Charniak 2019 MIT Press * [Deep Learning with Python](http://https//www.manning.com/books/deep-learning-with-python): François Chollet 2017 Manning Publications * Hands-On Machine Learning with Scikit-Learn & TensorFlow. Aurélien Géron. O'Reilly, 2019: · · ·

Disciplinas de Execução