I calcoli mostrano che sarà impossibile controllare l'IA superintelligente
L'idea dell'intelligenza artificiale per rovesciare l'umanità è stata dibattuta per decenni e gli scienziati hanno appena emesso il loro verdetto sulla possibilità di controllare la superintelligenza informatica di alto livello.
Risposta? Quasi certamente no.
Il problema è che il controllo di una superintelligenza ben oltre la comprensione umana richiederà una simulazione di questa superintelligenza che possiamo analizzare. Ma se non siamo in grado di capirlo, è impossibile creare una simile simulazione.
Regole come non danneggiare le persone non possono essere stabilite se non capiamo quali scenari offrirà l'AI, suggeriscono gli autori del nuovo articolo. Quando un sistema informatico funziona a un livello superiore alle capacità dei nostri programmatori, non possiamo più porre limiti.
La superintelligenza pone un problema fondamentalmente diverso da quelli comunemente studiati sotto la bandiera dell'etica robotica, scrivono i ricercatori.
Questo perché la superintelligenza è multiforme e quindi potenzialmente in grado di mobilitare una varietà di risorse per raggiungere obiettivi potenzialmente incomprensibili per gli esseri umani, figuriamoci controllarli.
Alcuni dei ragionamenti della squadra derivano dal problema dell'arresto, avanzato da Alan Turing nel 1936. Il problema è sapere se il programma per computer arriverà a un output e una risposta (motivo per cui si interrompe), o semplicemente eseguirà un ciclo all'infinito cercando di trovare la risposta.
Come ha dimostrato Turing, sebbene possiamo sapere che per alcuni programmi specifici, è logicamente impossibile trovare un modo che ci consenta di saperlo per ogni potenziale programma che potrebbe mai essere scritto. Questo ci riporta all'IA, che in uno stato superintelligente potrebbe effettivamente mantenere nella sua memoria tutti i possibili programmi per computer contemporaneamente.
Qualsiasi programma scritto, ad esempio, per fermare un'intelligenza artificiale che danneggia le persone e distrugge il mondo, può giungere a una conclusione (e fermarsi) oppure no - è matematicamente impossibile per noi essere assolutamente sicuri in ogni caso, il che significa che è impossibile controllare.
In effetti, questo rende inutilizzabile l'algoritmo di controllo, afferma lo scienziato Iyad Rahwan dell'Istituto per lo sviluppo. Max Planck in Germania.
Pertanto, sorge la domanda se a un certo punto possa diventare incontrollabile e pericoloso per l'umanità.
Lo studio è stato pubblicato sul Journal of Artificial Intelligence Research.