RC_Introdução à teoria da informação de shannon_140311

Esta é uma pré-visualização de arquivo. Entre para ver o arquivo original

Redes de Computadores
Prof. Ademar Felipe Fey
Introdução às redes de computadores: teoria da informação
FTEC 2014/1
Disciplina de Redes de Computadores
Crédito: Maior parte deste trabalho é baseado na apresentação em
PowerPoint do Prof. Jorge SURIAN, Teoria matemática da administração. 6
2
Teoria Geral de Sistemas
Teoria da Cibernética
Teoria da Informação
Teoria de Comunicação de Dados
Redes de Computadores
Evolução das teorias que possibilitaram o surgimento das redes de computadores
Nyquist
Shannon
Abordagem Sistêmica
Por volta da década de 1950, o biólogo alemão Ludwig von Bertalanffy elaborou uma teoria interdisciplinar para transcender os problemas exclusivos de cada ciência e proporcionar princípios gerais (sejam físicos, biológicos, sociológicos, químicos etc.) e modelos gerais para todas as ciências envolvidas, de modo que as descobertas efetuadas em cada uma pudessem ser utilizadas pelas demais. Essa teoria interdisciplinar – denominada Teoria Geral dos Sistemas (TGS) – demonstra a interação entre as ciências, permitindo a eliminação de suas fronteiras e o preenchimento dos espaços vazios entre elas. A TGS é essencialmente totalizante.
3
A Teoria Geral de Sistemas (TGS) se baseia em três princípios básicos:
a) Expansionismo;
b) Pensamento sintético;
c) Teleologia.
Abordagem Sistêmica
4
Abordagem Sistêmica
Expansionismo: é o princípio que sustenta que todo fenômeno é parte de um fenômeno maior. O desempenho de um sistema depende de como ele se relaciona com o todo maior que o envolve e do qual faz parte. O expansionismo não nega que cada fenômeno seja constituído de partes, mas a sua ênfase reside na focalização do todo do qual aquele fenômeno faz parte.
Pensamento sintético: é o fenômeno visto como parte de um sistema maior e é explicado em termos do papel que desempenha nesse sistema maior. Os órgãos do organismo humano são explicados pelo papel que desempenham no organismo e não pelo comportamento de seus tecidos ou estruturas de organização. A TGS está mais interessada em juntar as coisas do que em separá-las.
Teleologia: Conjunto das especulações que se aplicam à noção de finalidade e às causas finais. É o princípio segundo o qual a causa é uma condição necessária, mas nem sempre suficiente para que surja o efeito. Em outros termos, a relação causa-efeito não é uma relação determinística ou mecanicista, mas simplesmente probabilística. A teleologia é o estudo do comportamento com a finalidade de alcançar objetivos e passou a influenciar poderosamente as ciências. 
5
Abordagem Sistêmica
A TGS permitiu o surgimento da Cibernética e influiu na Teoria Geral da Administração, redimensionando totalmente suas concepções. Foi uma verdadeira revolução do pensamento administrativo. A teoria administrativa passou a pensar sistemicamente. Três teorias são fruto da TGS: Tecnologia e Administração; Teoria Matemática da Administração e Teoria de Sistemas.
Seguidores da Abordagem Sistêmica
W. Cannon
&
N. Wiener
C. Shannon &
W. Weaver
Newell
&
H. Simon
F. Kast
&
D. Katz
K. Kelly
&
D. Tapscott
6
Abordagem Sistêmica
Teoria de Sistemas
Os pressupostos básicos da TGS são:
Existe uma tendência para a integração das ciências naturais e sociais;
Essa integração parece orientar-se rumo a uma teoria dos sistemas;
Constitui o modo mais abrangente de estudar os campos não físicos do conhecimento científico, como as ciências sociais;
Desenvolve princípios unificadores que atravessam verticalmente os universos particulares das diversas ciências envolvidas, visando ao objetivo da unidade da ciência.
Conduz a uma integração na educação científica.
A TGS fundamenta-se em três premissas básicas:
Os sistemas existem dentro de sistemas. Cada sistema é constituído de subsistemas;
Os sistemas são abertos. Cada sistema existe dentro de um meio ambiente constituído por outros sistemas;
As funções de um sistema dependem de sua estrutura. Cada sistema tem um objetivo ou finalidade que constitui seu papel na interação com outros sistemas dentro do meio ambiente.
7
Abordagem Sistêmica
Teoria Geral de Sistemas
Katz/Kahn/ Tapscott
Ênfase
no ambiente
Período: 1950
Princípios:
Expansionismo
Pensamento sintético
Teleologia
TICs
Organizações formais e informais
Organizações complexas
Sistema aberto
Organização como sistema
Críticas:
Excesso de ênfase nas TICs
Surgem Estudos:
 Cibernética
 Informática
 Sistemas de informação
 PO
 Teoria da informação
 Automação de rotinas
 Automação industrial
 Teoria do conhecimento
Nyquist
Shannon
8
Abordagem Sistêmica
Tecnologia e Administração
Cibernética é a ciência da comunicação e do controle, seja no animal (homem, seres vivos), seja na máquina. A Cibernética compreende os processos e sistemas de transformação da informação e sua concretização em processos físicos, fisiológicos, psicológicos etc. A origem da Cibernética surgiu como uma ciência interdisciplinar para relacionar todas as ciências, está ligada aos seguintes fatos:
a. Movimento iniciado por Norbert Wiener em 1943 para esclarecer as chamadas ‘áreas brancas no mapa da ciência’. A ideia era juntar e não separar.
b. Os primeiros estudos sobre o cálculo de variações da Matemática, o princípio da incerteza mecânica quântica, a descoberta dos filtros de onda, o aparecimento da mecânica estatística etc., as quais exigiram maior conexão entre esses novos domínios.
9
Abordagem Sistêmica
c. Os estudos sobre informação e comunicação (Russell Whitehead; Wittgenstein; Chomsky; Korzybski). 
d. Os primeiros estudos e experiências com computadores para a solução de equações diferenciais.
e. A Segunda Guerra Mundial provocou o desenvolvimento dos equipamentos de artilharia aérea. Surgiu o conceito de retroação (feedback).
f. A Cibernética ampliou seu campo de ação com o desenvolvimento da TGS (1947), e com a Teoria da Comunicação de Shannon e Weaver, em 1949.
g. No início a Cibernética – como ciência aplicada – limitava-se à criação de máquinas de comportamento auto-regulável, semelhante a aspectos do comportamento do homem ou do animal (como o robô, o computador e o radar).
Tecnologia e Administração
10
Abordagem Sistêmica
Tecnologia e Administração
O campo de estudos da Cibernética são os sistemas. Sistema (do grego: sun = com e istemi = colocar junto) “é um conjunto de elementos que estão dinamicamente relacionados, formando uma atividade para atingir um objetivo, operando sobre dados/energia/matéria para fornecer informação/energia/matéria”.
Entradas
Dados
Energia
Matéria
Saídas
Informação
Energia
Matéria
11
Abordagem Sistêmica
Tecnologia e Administração
Principais Conceitos:
Informação: é tudo o que permite reduzir a incerteza a respeito de algo.
Energia: é a capacidade utilizada para movimentar e dinamizar o sistema, fazendo-o funcionar.
Materiais: são os recursos a serem utilizados pelo sistema, como meios para produzir as saídas (produtos e/ou serviços).
Saída (output): é o resultado final da operação de um sistema.
Retroação (feedback): é um mecanismo segundo o qual uma parte da energia de saída de um sistema volta à entrada.
Homeostasia: é um equilíbrio dinâmico obtido pela auto-regulação, ou seja, pelo autocontrole.
12
Abordagem Sistêmica
Teoria da Informação
A Teoria da Informação é um ramo da matemática aplicada que utiliza o cálculo da probabilidade. Originou-se em 1920, com os trabalhos de Szilar e Nyquist, desenvolvendo-se, posteriormente, com as contribuições de Hartley, Shannon, Kolmogorov, Wierner entre outros. 
Consolida-se com os estudos de Shannon e Weaver, no campo da telegrafia e telefonia, em 1949. Formularam uma teoria para medir e calcular a quantidade de informação, com base em resultados da física e estatística.
O sistema de comunicação tratado na Teoria da Informação consiste em seis componentes: fonte, transmissor, canal, receptor, destino e ruído.
13
Abordagem Sistêmica
Teoria da Informação
Fonte: pessoa, coisa ou processo que emite
ou fornece as mensagens por intermédio do sistema;
2. Transmissor: processo ou equipamento que opera a mensagem, transmitindo-a da fonte ao canal;
3. Canal: equipamento ou espaço intermediário entre o transmissor e o receptor;
4. Receptor: processo ou equipamento que recebe a mensagem no canal. O receptor decodifica a mensagem para colocá-la a disposição do destino;
5. Destino: pessoa, coisa ou processo a quem é destinada a mensagem no ponto final do sistema de comunicação;
6. Ruído: quantidade de perturbações indesejáveis que tendem a deturpar e alterar as mensagens transmitidas.
14
Abordagem Sistêmica
Teoria da Informação
Principais Conceitos:
Redundância: é a repetição da mensagem para que sua recepção correta seja mais garantida.
Entropia: do grego entrope = transformação, significa que partes do sistema perdem sua integração e comunicação entre si, fazendo com que o sistema se decomponha, perca energia e informação e degenere.
Sinergia: do grego syn = com e ergos = trabalho, significa literalmente “trabalho conjunto”
Informática: é a disciplina que lida com o tratamento racional e sistemático da informação, por meios automáticos.
Automação: é uma síntese da ultramecanização, super-racionalização, processamento contínuo e controle automático.
15
Biografia
Shannon (1916-2001). É considerado o fundador da teoria da informação.
Estudou Matemática e Engenharia Elétrica.
Em 1948, publicou o artigo científico A Mathematical Theory of Communication.
Em 1949 publicou o livro Teoria Matemática da Comunicação, contendo reimpressões do seu artigo científico de 1948, popularizando assim seus conceitos. Contribuiu também para a consolidação da teoria cibernética junto com outros cientistas renomados.
Trabalhou por muito tempo na Bell Labs.
Shannon 7
Para maiores informações consulte:
http://en.wikipedia.org/wiki/Claude_Shannon
16
Teoria da Informação 7,8
É um ramo da teoria da probabilidade e da matemática estatística que lida com sistemas de comunicação, transmissão de dados, criptografia, codificação, teoria do ruído, correção de erros, compressão de dados.
A teoria de Shannon foi a primeira a considerar comunicação como um problema matemático rigorosamente embasado na estatística e deu aos engenheiros da comunicação um modo de determinar a capacidade de um canal de comunicação em termos de ocorrência de bits. A teoria não se preocupa com a semântica dos dados, mas pode envolver aspectos relacionados com a perda de informação na compressão e na transmissão de mensagens com ruído no canal.
17
18
Evolução das redes de comunicações
Sistema binário		1703	Leibnitz
Telégrafo óptico		1792	Chappe (França)
Telégrafo			1840	EUA
Álgebra boleana		1854	Boole
Telefonia analógica		1894	Bell
Teoria da amostragem	1937	Nyquist
Teoria da comunicação	1948	Shannon
Computador digital		1949	ENIAC
Digitalização telecom		1957	ATT
Arpanet			1969	EUA
Redes X.25			1976	ITU-T OSI
TCP/IP				1983	EUA
OSI				1984	ISO/ITU-T
Rede local computadores	1984	DIX
Internet			1990	EUA
Transistor
1947
CI
1958
µP Intel
1970
19
Nyquist (1937)
Teorema de Nyquist
Determinou a capacidade máxima de transmissão de
dados num meio físico isento do ruído
Teorema da Amostragem
Determinou a frequência da amostragem necessária para
a reconstrução do sinal elétrico numa ponta distante
20
Shannon (1948)
Teorema de Shannon
Determinou a capacidade máxima de transmissão de
dados num meio físico sujeito ao ruído
Provou matematicamente que todo meio físico possui
limitações na transmissão de dados
21
Nyquist 1937
C = 2.W. log 2 L bps
Onde:
W = largura de banda do meio (Fmax – Fmin)
L = índice de modulação/número de níveis
Shannon 1948
C = W. log 2 (1 + S/N) bps
 
Onde:
W = largura de banda do meio (W = Fmax – Fmin)
S/N = relação Sinal/Ruído
Fa = 2 x Fs Hz
Onde:
Fa = frequência do sinal amostrado
Fs = frequência do sinal
original
22
Revisão matemática
X = log b n => b x = n
dB = 10 log 10 (S/N) => S/N = 10 (vlr dB/10)
Número Total de Combinações de um Conjunto9 
C = 2 n
Onde:
C = número de combinações possíveis
N = número de elementos do conjunto
23
Conversão de base logarítma
Dado a fórmula log b x
Podemos usar uma outra base logarítma conhecida, disponível em calculadoras científicas por exemplo, para realizar a conversão de base:
 log 10 x
--------------
 log 10 b
Exemplo: o valor de log 2 1001 é igual a log 10 1001 = 3,0004 = 9,9681
														--------------- ---------
					 log 10 2 0,3010
No exemplo acima a base logarítma decimal foi a escolhida para se realizar a conversão.
 
Referências Bibliográficas:
Notas de aula: Profa. Dra. Marta Valentim
CHIAVENATO, Idalberto. Princípios de Administração: 1ª ed. São Paulo: Elsevier, 2009.
LODI, J. B. História da Administração. São Paulo: Pioneira Thomson Learning, 2003. 217p.
MAXIMIANO, Antonio Cesar Amaru. Teoria geral da administração: da revolução urbana à revolução digital. 5ª ed. São Paulo: Atlas, 2005, v.1.
RIBEIRO, Antonio de lima. Introdução à Teoria Geral da Administração: ed. Rio de Janeiro: Campus, 2004.
SURIAN, Jorge, Prof. Administração. Teoria matemática da administração. Aula 12.
Shannon, o pai do bit. Disponível em: <http://imap.moodlelivre.com/?p=13>. Acesso em: 04/08/2013.
Claude Shannon, o pai do bit. Disponível em: <http://www.mat.ufrgs.br/~portosil/shannon.html>. Acesso em: 04/08/2013. 
OLIVEIRA, Antonio Marmo de; SILVA, Agostinho. Biblioteca da matemática moderna. 2ª Ed. LISA – Livros Irradiantes SA. São Paulo: 1969.
24