L'intelligence artificielle a appris à manipuler le comportement humain

L'intelligence artificielle apprend de plus en plus à travailler avec les gens. Des recherches récentes ont montré comment l'IA peut apprendre à identifier les vulnérabilités dans les habitudes et les comportements humains et à les utiliser pour influencer la prise de décision.

Il peut sembler banal que l'IA change tous les aspects de notre façon de vivre et de travailler, mais c'est vrai. Différentes formes d'IA travaillent dans des domaines aussi différents, de la gestion de l'environnement à l'administration de bureau. Et bien que l'IA n'ait pas d'intelligence ni d'émotions humaines, ses capacités sont énormes et évoluent rapidement.

Il n'y a pas encore lieu de s'inquiéter du soulèvement des machines, mais une découverte récente met en évidence le pouvoir de l'IA et montre la nécessité d'une gouvernance appropriée pour prévenir les abus.

Comment l'IA peut-elle apprendre à influencer le comportement humain?

Une équipe de chercheurs de Data61 du CSIRO, la division des données et des technologies numériques de l'agence scientifique nationale australienne, a développé une méthode systématique pour trouver et exploiter les vulnérabilités dans la façon dont les gens font des choix à l'aide d'une sorte de système d'intelligence artificielle appelé réseaux neuronaux répétitifs et apprentissage en profondeur . Pour tester leur modèle, ils ont mené trois expériences dans lesquelles des personnes jouaient à des jeux contre un ordinateur.

Dans la première expérience, les participants ont cliqué sur des carrés rouges ou bleus pour gagner de la monnaie dans le jeu, tandis que l'IA étudiait les modèles de sélection des participants et les guidait vers un choix spécifique. L'IA a réussi environ 70% du temps.

Dans une deuxième expérience, les participants devaient regarder l'écran et appuyer sur un bouton lorsqu'un certain symbole était affiché (par exemple, un triangle orange), et ne pas appuyer dessus lorsqu'il en était montré un autre (par exemple, un cercle bleu). Ici, l'IA a décidé de rationaliser la séquence de caractères afin que les participants fassent plus d'erreurs et obtiennent une augmentation des erreurs de près de 25%.

La troisième expérience consistait en plusieurs tours au cours desquels un participant se faisait passer pour un investisseur donnant de l'argent à un fiduciaire (AI). L'IA a ensuite rendu un certain montant au participant, qui a ensuite décidé du montant à investir dans le tour suivant. Le jeu se jouait selon deux modes différents: dans l'un, l'IA cherchait à maximiser le montant d'argent qu'elle recevait, et dans l'autre, l'IA cherchait à répartir l'argent équitablement entre elle et l'investisseur. L'IA a eu beaucoup de succès dans tous les modes.

Dans chaque expérience, la machine a appris des réponses des participants et identifié des vulnérabilités dans la prise de décision humaine. Le résultat final a été que la machine a appris à diriger les participants vers certaines actions.

Que signifie la recherche pour le développement futur de l'IA?

Les résultats sont encore assez abstraits et concernent des situations limitées et irréalistes. Des recherches supplémentaires sont nécessaires pour déterminer comment cette approche peut être mise en œuvre et utilisée au profit de la société.

Mais la recherche fait vraiment progresser notre compréhension non seulement de ce que l'IA peut faire, mais aussi de la manière dont les humains font des choix. Cela montre que les machines peuvent apprendre à contrôler la prise de décision humaine en interagissant avec nous.

L'étude a une vaste gamme d'applications potentielles, allant de l'amélioration des sciences du comportement et des politiques publiques pour améliorer le bien-être social à la compréhension et à l'influence sur la manière dont les gens adoptent des habitudes alimentaires saines ou des énergies renouvelables. L'intelligence artificielle et l'apprentissage automatique peuvent être utilisés pour reconnaître les vulnérabilités des personnes dans certaines situations et les aider à éviter de faire de mauvais choix.

Cette méthode peut également être utilisée pour se protéger contre les attaques d'influence. On peut apprendre aux machines à nous alerter lorsque nous sommes influencés en ligne et à nous aider à façonner notre comportement pour masquer notre vulnérabilité.

Et après?

Comme toute technologie, l'IA peut être utilisée en bien ou en mal, et une bonne gouvernance est essentielle pour garantir sa mise en œuvre de manière responsable. L'année dernière, le CSIRO a développé le concept d'éthique de l'IA comme première étape sur cette voie.

L'intelligence artificielle et l'apprentissage automatique ont tendance à être très gourmands en données, ce qui signifie qu'il est essentiel de garantir la mise en place de systèmes efficaces de gestion des données et d'accès. Lors de la collecte de données, il est très important de mettre en œuvre des processus adéquats de consentement et de protection de la vie privée.

Les organisations qui utilisent et développent l'intelligence artificielle doivent être sûres de savoir ce que ces technologies peuvent et ne peuvent pas faire, et comprendre les risques et avantages potentiels.

John Whittle, directeur de Data61.