Aquisição de IA

Prévia do material em texto

Aquisição de IA 
Uma aquisição de IA é um cenário hipotético em que a 
inteligência artificial (IA) se torna a forma dominante de 
inteligência na Terra, com programas de computador ou robôs 
efetivamente tirando o controle do planeta da espécie humana. 
 
Os cenários possíveis incluem a substituição de toda a força de 
trabalho humana, a aquisição por uma IA superinteligente e a 
noção popular de um levante de robôs. 
Algumas figuras públicas, como Stephen Hawking e Elon Musk, 
têm defendido a pesquisa de medidas de precaução para 
garantir que as futuras máquinas superinteligentes permaneçam 
sob controle humano. 
O problema de controle de IA é a questão de como construir um 
agente superinteligente que ajudará seus criadores e evitar a 
construção inadvertida de uma superinteligência que prejudicará 
seus criadores. Alguns estudiosos argumentam que as soluções 
para o problema de controle também podem encontrar 
aplicações na IA não superinteligente existente. 
As principais abordagens para o problema de controle incluem o 
alinhamento, que visa alinhar os sistemas de meta de IA com os 
valores humanos, e o controle de capacidade, que visa reduzir a 
capacidade de um sistema de IA de causar danos a humanos ou 
obter controle. 
Um exemplo de "controle de capacidade" é pesquisar se uma IA 
de superinteligência poderia ser confinada com sucesso em uma 
" caixa de IA ".