Planeamento

Aulas

Apresentação e Introdução ao processamento automático da língua escrita

Apresentação da disciplina

  • Docentes;
  • Objectivos;
  • Programa;
  • Metodologia;
  • Planeamento;
  • Avaliação;
  • Bibliografia.

Introdução ao processamento automático da língua escrita

  • Aplicações e tarefas;
  • Tipos de conhecimento sobre a língua;
  • O problema da ambiguidade;
  • Módulos;
  • Modelos.


Expressões regulares e autómatos de estados finitos

Expressões regulares: padrões, disjunção, agrupamento e precedência.
Autómatos de estados finitos
  • Introdução aos autómatos de estado finito (AEF)
  • Autómatos de estado finito (AEF): não determinismo.
  • Utilização de AEF para aceitar cadeias de caracteres.


Morfologia e fundamentos de processamento de texto

    Morfologia e análise morfológica: Morfemas, lemas e afixos. Infleção e derivação
    Fundamentos de processamento de texto: Corpora, tokenização (palavra, caracter e sub-palavra)


    Fundamentos de processamento de texto

    Fundamentos de processamento de texto: Corpora, tokenização (palavra, caracter e sub-palavra)
    Apoio ao trabalho 1


    Distâncias entre sequências

    Número mínimo de edições

    • Algoritmo para calcular o menor número de edições entre cadeias de caracteres
    • Distância de Levenshtein
    Realização de exercícios práticos


    Processamento estatístico da língua

    Introdução ao processamento estatístico em Língua Natural

    • Corpus de treino, desenvolvimento e avaliação
    • Contagens de N-gramas
    • Modelo de Markov como motivação
    • Escolha de N-gramas
    • Técnicas de alisamento (add-­one, Good-­Turing e Backoff)


    Etiquetação morfossintáctica

    Introdução à etiquetação morfossintáctica

    • Classes morfossintácticas
    • Dificuldades
    • Etiquetação morfossintáctica baseada em regras, baseada em métodos estatísticos e baseadas em transformações
    • Avaliação (precisão, cobertura e medida f)


    Modelos de Markov não observáveis

    Modelos de Markov não observáveis
    Algoritmo de Viterbi
    • Motivação e apresentação do algoritmo de Viterbi
    • Utilização do algoritmo de Viterbi para atribuição de uma etiqueta morfológica
    Treino de um modelo de Markov


    Exercícios

    Resolução de um problema que exige

    • cálculo de probabilidades associada a bigramas;
    • cálculo de probabilidades quando se procede a alisamento (add-one);
    • cálculo das contagens equivalentes ao alisamento calculado; e
    • cálculo da probabilidade de uma frase usando as probabilidades calculadas anteriormente.


    Apresentação por um convidado

    <<Preencher com os dados da apresentação>>


    Mini-teste 1

    Realização do primeiro mini-teste.


    Introdução ao processamento automático de língua falada

    Fonética e processamento de sinal.


    Aplicações de processamento automático de fala

    Legendagem automática.


    Reconhecimento de fala

    Arquitetura de um sistema de reconhecimento de fala.
    Extração de features.
    Modelos de língua.
    Avaliação.


    Síntese de fala

    Normalização de texto.
    Conversão grafema‐fone.
    Prosódia.
    Principais abordagens.


    Apresentação por um convidado

    <<Preencher com os dados da apresentação>>


    Análise sintáctica

    Sintaxe.
    Constituintes de uma frase.
    Gramáticas livres de contexto.
    Distinção entre léxico e gramática.
    Conceito de derivação.
    Representação parentetisada.
    Análise descendente pura. page3image160728


    Análise sintáctica (cont.)

    Algoritmos de análise sintática (CYK, Earley, ...).
    Exemplos.


    Introdução à Semântica

    Conceitos básicos.
    Relações entre lexemas e os seus significados: Homonímia, Polissemia, Sinonímia, Hiponímia, Hiperonímia.
    Embeddings.
    Recursos disponíveis.


    Transformadores

    Introdução aos Transformadores

    • Arquitetura
    • Atenção
    • Encoder
    • Decoder
    • Transformadores mais conhecidos


    Large Language Models

    Large Language Models

    Modelos generativos
    • Capacidades
    • Limitações
    Alguns exemplos
     


    Apresentação por um convidado

    <<Preencher com os dados da apresentação>>



    Revisões

    Revisões da matéria dada.


    Mini-teste 2

    Realização do segundo mini-teste.