2023 02 scx5003 aula 01 haykin cap 02 redes neurais

Prévia do material em texto

Redes Neurais
24/10/2023
Camilo Rodrigues Neto
camiloneto@usp.br
 
Bibliografia
 
● Neural Networks: A Comprehensive Foundation, by Simon Haykin 
● Artificial Intelligence: A Modern Approach, by Stuart Russell 
● Genetic Algorithms + Data Structures = Evolution Programs, by Zbigniew 
Michalewicz
● Genetic Algorithms + Data Structures = Evolution Programs, by Zbigniew 
Michalewicz
● Review Papers
● R and Python examples
 
Recursos de programação
● A Neural Network in 11 lines of Python (Part 1)
https://iamtrask.github.io/2015/07/12/basic-python-network/
● Deep Learning com Linguagem R – Parte 1
http://www.cienciaedados.com/deep-learning-com-linguagem-r-parte-1/
 
O que é uma rede neural
● Rede Neural Artificial ou Rede Neural
● O cérebro faz computação?
● O cérebro é um sistema que processa informação 
– Complexo, Não linear e Paralelo
● Estrutura definida de forma auto-organizada:
– Sistema visual humano
– Sistema de sonar de morcegos
 
● O cérebro nasce com pouca informação do ambiente, mas 
com muitas estruturas já prontas. O que é uma rede neural?
Uma rede neural é um processador distribuído, massivamente paralelo, 
composto de unidades de processamento simples, que tem uma 
propensão natural para armazenar conhecimento experiencial e 
disponibilizá-lo para uso. Isto se assemelha ao cérebro em dois aspectos:
– O conhecimento é adquirido pela rede a partir do seu ambiente através de 
um processo de aprendizagem.
– A conexão entre os neurônios são conhecidos como “pesos sinápticos” e são 
usados para armazenar o conhecimento adquirido.
O aprendizado se faz ajustando os pesos sinápticos, mas 
também alterando a estrutura da rede.
 
Características das Redes Neurais
● Aprendizado
● Generalização
● Não linearidade
● Informação contextual
● Robusta a falhas
● Inspiradas em redes neurais biológicas
 
Cérebro humano
 
 
 
● 1 - Unipolar neuron
● 2 - Bipolar neuron
● 3 - Multipolar neuron
● 4 – Pseudo unipolar neuron
 
Modelo de um neurônio biológico
 
 
Modelo de um neurônio
 
 
Tipos de função de ativação
 
Neurônio estocástico
 
Redes neurais como grafos
 
 
Feedback 
● Redes neurais feedforward – sem Feedback
● Redes neurais recorrentes – com Feedback
 
Arquitetura de redes neurais
Single-layer feedforward NN
Multilayer feedforward NN
 
Redes neurais recorrentes
 
Aprendizado por correção de erro
 
 
 
	Slide 1
	Slide 3
	Slide 4
	Slide 5
	Slide 6
	Slide 8
	Slide 9
	Slide 10
	Slide 11
	Slide 12
	Slide 13
	Slide 14
	Slide 15
	Slide 16
	Slide 17
	Slide 19
	Slide 20
	Slide 21
	Slide 22
	Slide 23
	Slide 24
	Slide 27
	Slide 29
	Slide 30
	Slide 33