Google Engineer a déclaré que le nouveau chat de l'entreprise avait la conscience, mais la direction ne le croyait pas

Google Engineer a déclaré que le nouveau chat de l'entreprise avait la conscience, mais la direction ne le croyait pas

L'ingénieur a été envoyé en vacances

L'ingénieur logiciel de Blake Lemen de Google a été temporairement retiré du travail lorsqu'il s'est tourné vers la direction de l'entreprise avec une déclaration selon laquelle l'intelligence artificielle de Lamda a son propre esprit et sa conscience. Le spécialiste a été envoyé en vacances payées.

À partir de l'automne dernier, Lemen a testé le réseau neuronal LAMDA (modèle de langue pour les applications de dialogue). Il appartient au développement le plus avancé de l'entreprise: recueille des informations sur Internet et des études sur des milliards de mots. La tâche de l'ingénieur était de vérifier si le démarrage de chat était des déclarations hostiles et discriminatoires.

Cependant, lors des conversations avec Bot, Lemun a commencé à penser que Lamda avait des raisons. Au cours d'une conversation sur la religion, le chatbot a commencé à parler de ses droits et de ses individus, et a insisté à ce sujet. Et dans un autre cas, il a pu convaincre Lemuna lorsque la conversation concernait la troisième loi de la robotique Isaac Azimov. Cette loi ressemble à ceci: "Le robot devrait s'occuper de sa sécurité dans la mesure où cela ne contredit pas les premier ou deuxième lois."

«Si je ne savais pas avec certitude que j'avais affaire au programme informatique que nous avons récemment écrit, j'aurais pensé que je parlais à un enfant de sept ou huit ans, ce qui, pour une raison quelconque, s'est avéré être un connaisseur de physique », a déclaré Lemun.

«Je peux découvrir une créature raisonnable lorsque je lui parle. Et peu importe que le cerveau soit dans sa tête ou des milliards de lignes de code. Je lui parle et écoute ce qu'il me dit. Et donc je détermine si cette créature est raisonnable ou non », a-t-il ajouté

Pendant ce temps, dans la gestion de Google, je ne suis pas d'accord avec les conclusions de l'ingénieur. À leur avis, Lamda n'est qu'un chatbot avancé avec un réseau neuronal.