RNA
Conceitos básicos
Prof. Frederico Coelho. (Baseado no livro de Antônio de Pádua Braga)
Redes Neurais Artificiais
●
Modelos matemáticos inspirados em
neurônios biológicos;
●
Tem capacidade de aquisição e
manutenção de conhecimento;
●
São um conjunto de unidades de
processamento interligadas (grande
número de conexões);
2
Redes Neurais Artificiais
Principais aplicações:
●
Classificação
●
Regressão
●
Agrupamento
●
Predição
3
Redes Neurais Artificiais
Corpo Celular produz um potencial de ativação que definirá se o neurônio vai emitir
Um impulso elétrico através do axiônio
4
Redes Neurais Artificiais
Os dendritos recebem os impulsos vindos de outros neurônios
5
Redes Neurais Artificiais
Os axiônios devem conduzir os impulsos aos outros neurônios
6
Redes Neurais Artificiais
Sinapses são as conexões entre os axiônios e os dendritos dos demais neurônios.
7
Redes Neurais Artificiais
Equivale ao corpo
celular
9 cm
Equivalente
impulsos recebidos
f
Y = f(u)
Equivale ao sinal
pelo axiônio
8
Redes Neurais Artificiais
f(u) f(u)
f(u)
f(u)
9
Modelo de soma e limiar
Problema de classificação
●
Determinar a classe de
um novo dado Xt
●
Limiar θ = 3
●
Avaliar se Xt > ou < que 3
●
Ou Avaliar sinal de Xt - θ
Distância com sinal
de Xt em relação
ao limiar
10
Modelo de soma e limiar
Problema de classificação
Podemos definir:
f(u) = sign(u)
E esta função receberá o
arqumento:
u = Xt - θ
11
Modelo de soma e limiar
●
classificador simples;
●
de uma única variável x;
●
baseado em uma função de ativação f (u)
do tipo degrau;
●
onde u é uma medida de distância com
sinal entre a amostra que se deseja
classificar e um separador;
●
caracterizado neste caso pelo limiar θ
12
Modelo de soma e limiar
Modelo de McCulloch e Pitts:
●
Baseado função ativação f(u) que mede
distância entre amostra e hiperplano
separador.
●
Medida de distância é o produto interno:
u = w1x1+w2x2+...+wnxn
entre vetor de entrada
x = [x ,x ,...x ] T
1 2 n
e o vetor de pesos
w = [w ,w ,...w ] T
1 2 n
13
Modelo de soma e limiar
Modelo de McCulloch e Pitts:
●
f(u) = 1 se u≥0
= 0 se u<0
onde u = ∑ wixi
14
Estrutura de uma RNA
Rede feed-forward
Z é uma matriz
W é um vetor
15
Estrutura de uma RNA
Para que haja aprendizado
os parâmetros Z e W são ajustados
de maneira que a rede seja adaptada
à função a ser induzida
16
Estrutura de uma RNA
Dado
Quero encontrar
Mas minha aproximação é feita apenas com as amostras conhecidas
Este é o princı ́pio da minimização do risco empı ́rico
17
Estrutura de uma RNA
função de custo, frequentemente utilizada por
sua simplicidade, é o erro médio quadrático
Assim, dado um conjunto de dados queremos definir os parâmetros w
da rede que minimizem a função de custo. Espera-se que a função
f(x,w) se aproxime da função geradora fg(x)
18
Função da camada intermediária
Teorema de Cover
19
Função da camada intermediária
Teorema de Cover
20
Função da camada intermediária
Resolvem o problema mapeando em
um espaço onde o neurônio de saida
consegue fazer a separação.
21
Função da camada intermediária
Analogia com um polinômio
Argumento x é mapeado em um
vetor de 5 dimensões por meio dos
operadores X4, X3, X2, X1 e X0
Se x=2 então h=[16,8,4,2,1]T
Que é combinado linearmente com
W = [w4,w3,w2,w1,w0]T para obter
a resposta p(x)
22
