Vantagens de inteligência sobre

Prévia do material em texto

Vantagens de inteligência sobre-humana sobre os seres 
humanos 
Nick Bostrom e outros expressaram preocupação de que uma IA 
com as habilidades de um pesquisador de inteligência artificial 
competente seria capaz de modificar seu próprio código-fonte e 
aumentar sua própria inteligência. 
Se sua auto-reprogramação o levar a ficar ainda melhor em ser 
capaz de se reprogramar, o resultado poderia ser uma explosão 
de inteligência recursiva, onde rapidamente deixaria a 
inteligência humana para trás. Bostrom define uma 
superinteligência como "qualquer intelecto que exceda em muito 
o desempenho cognitivo dos humanos em virtualmente todos os 
domínios de interesse" e enumera algumas vantagens que uma 
superinteligência teria se escolhesse competir com os humanos: 
• Pesquisa de tecnologia: uma máquina com habilidades de 
pesquisa científica sobre-humanas seria capaz de superar a 
comunidade de pesquisa humana em marcos como 
nanotecnologia ou biotecnologia avançada. Se a vantagem 
se tornar suficientemente grande (por exemplo, devido a 
uma explosão repentina de inteligência), uma aquisição de 
IA torna-se trivial. 
• Estratégias: uma superinteligência pode simplesmente ser 
capaz de superar a oposição humana. 
• Manipulação social: uma superinteligência pode ser capaz 
de recrutar apoio humano, ou secretamente incitar uma 
guerra entre humanos. 
• Produtividade econômica: Contanto que uma cópia da IA 
pudesse produzir mais riqueza econômica do que o custo 
de seu hardware, os humanos individuais teriam um 
incentivo para permitir voluntariamente que a Inteligência 
Geral Artificial (AGI) executasse uma cópia de si mesma em 
seus sistemas. 
• Hacking: uma superinteligência pode encontrar novos 
exploits em computadores conectados à Internet e espalhar 
cópias de si mesma nesses sistemas, ou pode roubar 
dinheiro para financiar seus planos.