Primeira_Aula_de_Redes_Neurais_Artificiais

Prévia do material em texto

1 
Redes Neurais Artificiais 
Profa. Angelita M. De Ré 
Inteligência Artificial 
2 
Definição de RNA 
• Uma RN é um processador massivamente 
paralelo que tem a tendência de 
armazenar conhecimento experimental. 
• Modela o cérebro em dois aspectos: 
– O conhecimento é adquirido pela rede 
através de um processo de aprendizado. 
– As conexões entre neurônios (sinapses) são 
usadas para armazenar o conhecimento. 
 
3 
Aprendizado 
• O que é aprender? 
– Incrementar o conhecimento 
– adaptar-se melhor às novas situações do ambiente 
– ... 
• Como se aprender? 
– Observando 
– Memorizando 
– Generalizando 
– Especializando 
– ..... 
 
4 
• externo (do ambiente) 
• exemplos, experiências, ensino, .... 
• estrutural 
• sentidos 
• cérebro (baixo nível) 
• memória e processador de símbolos (alto nível) 
• funcional (mecanismos de aprendizado) 
• modelo simbólico: representação de conhecimento, 
indução, dedução 
• modelo conexionista: redes neurais 
 
 
Aprendizado 
Três Aspectos 
5 
• Técnica de aprendizado que tem como modelo 
o cérebro. 
• Q_ _m n_ _ Ch_ r _ , n_ _ m _ m _ ! 
– Você consegue identificar a frase? 
• Pegar uma borracha sendo arremessada 
– Apesar de não ser tão rápido quanto um computador, 
nosso cérebro consegue calcular a trajetória da bola 
muito bem. 
• O cérebro humano é formado por 10 bilhões de 
neurônios paralelos! 
 
Aprendizado 
6 
Aplicações de RNA 
• Reconhecimento de voz 
• Reconhecimento de texto (OCR) 
• Avaliação de risco de financiamento 
• Detector de bombas 
• Auxílio na identificação de reservas de 
pretóleo 
• ... 
 
7 
Neurônio Biológico 
8 
Funcionamento do Neurônio 
Biológico 
• Pelos dentritos, o neurônio recebe sinais de outros 
neurônios a ele conectados através de sinapses. 
• Os sinais são acumulados no corpo do neurônio. 
• Quando a soma dos sinais passa de um certo limiar, um 
sinal é propagado no axônio. 
• As sinapses tem um peso que pode ser: 
– exitatório: incrementam a soma dos sinais 
– inibidor: decrementam 
9 
Neurônio Artificial 
10 
Componentes do Neurônio Artificial 
• um conjunto de links de conexão com outros neurônios 
(sinapses) 
• os links podem ser de 
– entrada (dentritos): há um peso associado a cada link (W) 
– saída (axônio): o peso da saída é dado por uma função de 
ativação 
• alguns neurônios podem ser conectados diretamente ao 
ambiente externo. 
• uma função de transferência que dispara a saída 
A estrutura de um neurônio é formada por: 
11 
Como Funciona o Neurônio Artificial 
Quanto a soma dos pesos dos links de entrada (função 
de entrada) atingem um certo limiar o neurônio é disparado 
ativando a saída (função de ativação) 
Notação 
valores entrada=aj 
• pesos entrada=W 
• g = função ativação 
valor saída=ai 
 
 
)(
)(
,

j
jiji
ii
aWin
inga
12 
Exemplos de Função de Transferência 






tx
tx
xstept
,0
,1
)(






0,1
0,1
)(
x
x
xsign
e
x
xsigmoid



1
1
)(
t = limiar 
13 
Rede de memória associativa e pesos fixos 
• Aprende a associar valores de entrada com valores de 
saída. 
• A matriz de pesos é determinada pela multiplicação do 
vetor de entrada com o de saída. 
 

m
m
j
m
iji baw
)()(
, .
Onde 
a = vetores de saída no conjunto de 
treinamento. 
b= vetores de entrada. 
j = índice dos links de entrada. 
i = índice do neurônios de saída. 
m = índice do conjunto de treinamento. 
14 
• Associar a entrada 01011010 (ASCII Z em binário) com 
a saída 01011010 (ou seja, a= b) 
• número de elementos de conjunto de treinamento 
m=1 
• número de entradas = 8 (j := 1..8) 
• número de saídas = 8 (i := 1..8) 
• Passos 
• calcular a matriz de pesos 
• zerar a diagonal principal 
• usar função de transferência step1 
• testar com entrada 01011010 
• testar com entrada 01010010 (1 bit de erro) 
Exemplo: reconhecimento da letra Z 
15 
 





















































00000000
11011010
00000000
01011010
01011010
00000000
01011010
00000000
01011010.
0
1
0
1
1
0
1
0
Obs.: falta zerar a diagonal principal 
w 
Matriz de pesos para o caso do Z 
16 
Usando RNA 










































































































0
1
0
1
1
0
1
0
1
0
2
0
3
2
0
2
0
0
1
0
0
1
0
1
0
.
00000000
10011010
00000000
01001010
01010010
00000000
01011000
00000000
step
Letra Z 
17 
Exemplo: associação 
• A RN deve aprender as 
seguintes associações 
– Homero - Literatura 
– Bethoven - Música 
– Rubens - Pintura 
• Representação binária dos 
valores 
– Homero [1,-1,1,-1,1]=b(1) 
Liiteratura [1, -1, 1, -1]=a(1) 
– Bethoven [1,1,1,-1,-1]=b(2) 
Música [1,1,-1,-1]=a(2) 
– Rubens [1,1,-1,-1,1] b(3) 
Pintura [1,-1,-1,1] =a(3) 
• Variáveis: m = 1..3; j=1..5; i=1..4 
• Usar como função de 
transferência sign 
• Calcular W 
alguns exemplos: 31.11.11.1
... )3(1
)3(
1
)2(
1
)2(
1
)1(
1
)1(
11,1

 bababaw
11.11.11.1
... )3(2
)3(
1
)2(
2
)2(
1
)1(
2
)1(
12,1

 bababaw
18 
































































1
1
1
1
4
5
5
7
1
1
1
1
1
.
11311
11131
31111
13113
sign
w 
Rubens 
Pintura 
Uso da RNA 
19 
• Quanto ao tipo de algoritmo de 
aprendizado 
– Pesos fixos 
– Supervisionado 
• o conjunto de 
treinamento é 
classificado por um 
especialista 
– Não-supervisionado 
• o conjunto de 
treinamento não tem um 
parecer de classificação 
associado a cada valor. 
• Quanto à arquitetura 
– Feedforward 
• todas as sinapses se 
ligam somente aos 
neurônios da camada 
seguinte. 
– Recorrente 
• há sinapses com os 
neurônois da mesma 
camada (feed-lateral) e 
com da camada anterior 
(feed-back) 
– Multi-camada 
Classificação das RNA 
20 
• Quanto ao tipo de algoritmo de 
aprendizado 
– Pesos fixos 
– Supervisionado 
• o conjunto de 
treinamento é 
classificado por um 
especialista 
– Não-supervisionado 
• o conjunto de 
treinamento não tem um 
parecer de classificação 
associado a cada valor. 
• Quanto à arquitetura 
– Feedforward 
• todas as sinapses se 
ligam somente aos 
neurônios da camada 
seguinte. 
– Recorrente 
• há sinapses com os 
neurônois da mesma 
camada (feed-lateral) e 
com da camada anterior 
(feed-back) 
– Multi-camada 
Classificação das RNA 
21 
Modelos de RNA 
Distinção entre os modelo através de suas caraísticas básicos: 
Tipo de entrada ; Forma de conexão e Tipo de aprendizado 
a) Tipo de entrada: 
1. Binários: aceitam entrdas discretas, ou seja, na forma de 0 e 1. 
2. Intervalares:aceitam qualquer valor numérico como entrada (forma continua) 
b) Forma de conexão: como os elementos são conectados e como o modelo 
matemático representam a transmissão dos sinais na rede. 
1. Alimentação a frente (FeedForward): sinais de entrada são transformados em 
sinais de saída. 
2. Retro-alimentação: os sinais ficam sendo alterados em diversas transições de 
estado, sendo a saída alimentadora da entrada. 
3. Competitiva: realiza a interação lateral dos sinais recebidos na entrada entre os 
elementos dentro de uma zona de vizinhança. 
c) Tipo de aprendizado (treinamento: existência ou não de um sinal de saída 
pré-definido para a rede: 
1. Supervisionado: definição da saída da rede desejada. Força o ajuste de pesos para 
representar o sinal desejado. 
2. Auto-aprendizado(não supervisionado): faz uma representaçãoda distribuição de 
probabilidade dos padrões de entrada na rede 
 
22 
Modelos de RNA 
– Conexões – RNA é equivalente a um grafo orientado. Define tanto um fluxo 
de informação quanto a modulação da informação que é passada. 
– RNA - inclui pesos em cada aresta(conexaõ) que modula o sinal de saída 
que é passado para o nodo adjacente. 
– Pesos – memorização do padrão. São ajustados durante o processo de 
aprendizado que captura as informações. 
– Elemento de processamento – Neurônio 
– Parte onde é realizado todo o processamento 
– Na camada de entrada recebe o valor do padrão de entrada, estabelece conexão 
com os neurônios das camadas seguintes. 
– Na saída de um elemento processamento função dos pesos e das entradas 
– Componentes básicos: 
– Físicos: conexão e elementos de processamento => combinação = RNA 
– Não físicos: 
– Padrões: dados de entrada = codificação de uma modelagem da realidade 
– Funções: modelos matemáticos utilizados no treinamento e reconhecimento