Os cálculos mostram que será impossível controlar a IA superinteligente
A ideia da inteligência artificial para derrubar a humanidade tem sido debatida por décadas, e os cientistas acabaram de dar seu veredicto sobre se podemos controlar a superinteligência computacional de alto nível.
Responda? Quase certamente não.
O problema é que controlar uma superinteligência muito além da compreensão humana exigirá uma simulação dessa superinteligência que possamos analisar. Mas se não formos capazes de entender isso, é impossível criar tal simulação.
Regras como não prejudicar as pessoas não podem ser estabelecidas se não entendermos quais cenários a IA oferecerá, sugerem os autores do novo artigo. Quando um sistema de computador está operando em um nível além da capacidade de nossos programadores, não podemos mais estabelecer limites.
A superinteligência apresenta um problema fundamentalmente diferente daqueles comumente estudados sob a bandeira da ética dos robôs, escrevem os pesquisadores.
Isso ocorre porque a superinteligência é multifacetada e, portanto, potencialmente capaz de mobilizar uma variedade de recursos para atingir objetivos que são potencialmente incompreensíveis para os humanos, quanto mais controlá-los.
Parte do raciocínio da equipe vem do problema de parada, apresentado por Alan Turing em 1936. O problema é saber se o programa de computador terá uma saída e uma resposta (e é por isso que ele para) ou apenas entrará no infinito tentando encontrar a resposta.
Como Turing provou, embora possamos saber que, para alguns programas específicos, é logicamente impossível encontrar uma maneira que nos permitiria saber isso para cada programa potencial que poderia ser escrito. Isso nos leva de volta à IA, que, em um estado superinteligente, poderia realmente manter todos os programas de computador possíveis em sua memória de uma vez.
Qualquer programa escrito, por exemplo, para impedir uma IA que prejudica as pessoas e destrói o mundo, pode chegar a uma conclusão (e parar) ou não - é matematicamente impossível para nós estarmos absolutamente seguros em qualquer caso, o que significa que é impossível controlar.
Na verdade, isso torna o algoritmo de controle inutilizável, diz o cientista Iyad Rahwan, do Institute for Development. Max Planck na Alemanha.
Portanto, surge a pergunta se pode em algum momento se tornar incontrolável e perigoso para a humanidade.
O estudo foi publicado no Journal of Artificial Intelligence Research.