계산에 따르면 초 지능 AI를 제어하는 ​​것이 불가능할 것입니다.

인류를 전복시킬 인공 지능에 대한 아이디어는 수십 년 동안 논쟁되어 왔으며 과학자들은 우리가 높은 수준의 컴퓨터 초 지능을 제어 할 수 있는지에 대한 평결을 방금 전달했습니다.

대답? 거의 확실하지 않습니다.

문제는 인간의 이해를 훨씬 뛰어 넘는 초 지능을 제어하려면 우리가 분석 할 수있는이 초 지능의 시뮬레이션이 필요하다는 것입니다. 그러나 이것을 이해할 수 없다면 그러한 시뮬레이션을 만드는 것은 불가능합니다.

AI가 어떤 시나리오를 제공할지 이해하지 못하면 사람에게 해를 끼치 지 않는다는 규칙을 수립 할 수 없다고이 기사의 저자는 제안합니다. 컴퓨터 시스템이 프로그래머의 능력을 넘어서는 수준에서 작동하면 더 이상 한계를 설정할 수 없습니다.

초 지능은 로봇 윤리라는 기치 아래에서 일반적으로 연구되는 것과 근본적으로 다른 문제를 제기한다고 연구원들은 썼다.

왜냐하면 초 지능은 다방면에 있고 따라서 통제는 말할 것도없고 인간에게 잠재적으로 이해할 수없는 목표를 달성하기 위해 다양한 자원을 동원 할 가능성이 있기 때문입니다.

팀의 추론 중 일부는 1936 년 Alan Turing이 제시 한 중지 문제에서 비롯됩니다. 문제는 컴퓨터 프로그램이 출력과 답을 얻을 것인지 (이것이 멈추는 이유) 또는 답을 찾으려고 무한대로 반복되는지를 아는 것입니다.

Turing이 증명했듯이, 비록 우리가 특정 프로그램에 대해 알고있을지라도, 작성 될 수있는 모든 잠재적 프로그램에 대해 이것을 알 수있는 방법을 찾는 것은 논리적으로 불가능합니다. 이것은 초 지능 상태에서 실제로 가능한 모든 컴퓨터 프로그램을 메모리에 한 번에 저장할 수있는 AI로 돌아 가게합니다.

예를 들어, 사람에게 해를 끼치고 세상을 파괴하는 AI를 막기 위해 작성된 모든 프로그램은 결론에 도달 할 수도 있고 중지 할 수도 있습니다. 어떤 경우에도 절대적으로 확신 할 수는 없습니다. 컨트롤하다.

실제로 이것은 제어 알고리즘을 사용할 수 없게 만든다고 개발 연구소의 과학자 Iyad Rahwan은 말합니다. 독일의 막스 플랑크.

따라서 어떤 시점에서 그것이 인류에게 통제 불가능하고 위험해질 수 있는지에 대한 의문이 제기됩니다.

이 연구는 Journal of Artificial Intelligence Research에 게재되었습니다.