Representando Palavras & Embeddings
Parte 03: Semântica vetorial de palavras
Marcelo Finger Alan Barzilay
Tópicos
- O problema de representação de sentenças
- Representações alternativas
- Semântica vetorial de palavras
- Embeddings
Semântica Vetorial de Palavras
Interface Sintaxe-Semântica
Fenômeno: a cada árvore sintática atribui-se um significado (potencialmente) distinto.
Problema:
- Como atribuir significado a uma árvore sintática?
- O que é “significado”?
"Marcelo chegou atrasado"
"Ele nunca chega na hora"
Semanticas Formais
- Representação matemática formal do significado
- Composicionalidade: O significado de um elemento é uma composição dos significados de suas partes
- Gramáticas Categóricas baseadas em Lógicas Categóricas e Cálculo Lambda
- Ponte formal para a interface Sintaxe-Semântica
Semanticas Contextuais
- Expressões com significados semelhantes ocorrem em contextos (trechos de textos) semelhantes
- O contexto é a semântica, a semântica é um padrão
- Inserção (embedding) em espaços vetoriais n-dimensionais
- Pontos próximos representam conceitos semanticamente semelhantes
- Exploram propriedades dos espaços vetoriais no processamento
Marcelo
Ele
Rocambole
Como criar uma boa representação vetorial?
