Introdução ao Processamento de Linguagem Natural
Marcelo Finger Alan Barzilay
Tópicos
- Estudo Computacional Sobre Linguagens
- Modelos Baseados em Regras Gramaticais
- Modelos Probabilísticos
- Problemas Básicos - Partes 01, 02, 03 e 04
Estudo da Linguagem
- Ao menos, desde a antiguidade clássica
-
Diversos enfoques
-
Muitos deles eram dependentes de linguagens
-
- Visão unificadora a partir do século 19
- Processamento computacional a partir do século 20
Elementos da Língua
| Elemento | Área |
|---|---|
| Sons | Acústica |
| Ritmos (Prosódia) | Fonologia |
| Fonemas | Fonética |
| Palavras | Morfologia |
| Sintagmas (Frases) | Sintaxe |
| Significados | Semântica |
| Uso | Pragmática |
Elementos da Língua
| Elemento | Área |
|---|---|
| Sons | Acústica |
| Ritmos (Prosódia) | Fonologia |
| Fonemas | Fonética |
| Palavras | Morfologia |
| Sintagmas (Frases) | Sintaxe |
| Significados | Semântica |
| Uso | Pragmática |
| Elemento | Área |
|---|---|
| Sons | Acústica |
Elementos da Língua
| Elemento | Área |
|---|---|
| Sons | Acústica |
| Ritmos (Prosódia) | Fonologia |
| Fonemas | Fonética |
| Palavras | Morfologia |
| Sintagmas (Frases) | Sintaxe |
| Significados | Semântica |
| Uso | Pragmática |
| Elemento | Área |
|---|---|
| Ritmos (Prosódia) | Fonologia |
Elementos da Língua
| Elemento | Área |
|---|---|
| Sons | Acústica |
| Ritmos (Prosódia) | Fonologia |
| Fonemas | Fonética |
| Palavras | Morfologia |
| Sintagmas (Frases) | Sintaxe |
| Significados | Semântica |
| Uso | Pragmática |
| Elemento | Área |
|---|---|
| Fonemas | Fonética |
Palavra: Táxi
Fonema: /t/ /a/ /k/ /s/ /i/
Elementos da Língua
| Elemento | Área |
|---|---|
| Sons | Acústica |
| Ritmos (Prosódia) | Fonologia |
| Fonemas | Fonética |
| Palavras | Morfologia |
| Sintagmas (Frases) | Sintaxe |
| Significados | Semântica |
| Uso | Pragmática |
| Elemento | Área |
|---|---|
| Palavras | Morfologia |
infelizmente
Morfemas: prefixo, radical, sufixo
Elementos da Língua
| Elemento | Área |
|---|---|
| Sons | Acústica |
| Ritmos (Prosódia) | Fonologia |
| Fonemas | Fonética |
| Palavras | Morfologia |
| Sintagmas (Frases) | Sintaxe |
| Significados | Semântica |
| Uso | Pragmática |
| Elemento | Área |
|---|---|
| Sintagmas (Frases) | Sintaxe |
Elementos da Língua
| Elemento | Área |
|---|---|
| Sons | Acústica |
| Ritmos (Prosódia) | Fonologia |
| Fonemas | Fonética |
| Palavras | Morfologia |
| Sintagmas (Frases) | Sintaxe |
| Significados | Semântica |
| Uso | Pragmática |
| Elemento | Área |
|---|---|
| Significados | Semântica |
Elementos da Língua
| Elemento | Área |
|---|---|
| Sons | Acústica |
| Ritmos (Prosódia) | Fonologia |
| Fonemas | Fonética |
| Palavras | Morfologia |
| Sintagmas (Frases) | Sintaxe |
| Significados | Semântica |
| Uso | Pragmática |
| Elemento | Área |
|---|---|
| Uso | Pragmática |
| Elemento | Área |
|---|---|
| Sons | Acústica |
| Ritmos (Prosódia) | Fonologia |
| Fonemas | Fonética |
| Palavras | Morfologia |
| Sintagmas (Frases) | Sintaxe |
| Significados | Semântica |
| Uso | Pragmática |
| Elemento | Área |
|---|---|
| Palavras | Morfologia |
| Sintagmas (Frases) | Sintaxe |
| Significados | Semântica |
| Uso | Pragmática |
Neste Curso: Língua Escrita
Várias Visões (ex Sintaxe)
Estrutura sintagmática (constituintes)
Chomsky 1957
Estrutura de dependências (Século XII)
UD 2005
Observável: sentença Não observável: estrutura
Diversos Métodos Computacionais
- Modelos baseado em regras (Lógica)
- Modelos probabilísticos
- Modelos Neurais
Organização do Curso
- Módulo 1: Modelos não-neurais de PLN
- Módulo 2: Redes Neurais e Retropropagação
- Módulo 3: Representação de Palavras e Embeddings
- Módulo 4: O método word2vec
- Módulo 5: Redes Neurais Recorrentes
- Módulo 6: Redes Profundas LSTM e GRU
Segundo Curso
- Modelos Neurais Avançados
- Overfitting, Underfitting, Vieses
- Atenção Neural
- Modelo Transformer
- BERT e BERTologia
- Limites e Desafios
