A Inteligência Artificial aprendeu a manipular o comportamento humano

A inteligência artificial está aprendendo cada vez mais sobre como trabalhar com as pessoas. Uma pesquisa recente mostrou como a IA pode aprender a identificar vulnerabilidades nos hábitos e comportamentos humanos e usá-los para influenciar a tomada de decisões.

Pode parecer comum que a IA esteja mudando todos os aspectos de nosso modo de vida e trabalho, mas é verdade. Diferentes formas de IA funcionam em diferentes campos, desde a gestão ambiental até a administração de escritórios. E embora a IA não tenha inteligência e emoções humanas, suas capacidades são enormes e evoluem rapidamente.

Não há necessidade de se preocupar com a revolta das máquinas ainda, mas uma descoberta recente destaca o poder da IA ​​e mostra a necessidade de governança adequada para evitar abusos.

Como a IA pode aprender a influenciar o comportamento humano?

Uma equipe de pesquisadores da Data61 da CSIRO, a divisão de dados e tecnologia digital da agência científica nacional da Austrália, desenvolveu um método sistemático para encontrar e explorar vulnerabilidades na forma como as pessoas fazem escolhas usando um tipo de sistema de inteligência artificial chamado redes neurais repetitivas e aprendizado profundo . Para testar seu modelo, eles realizaram três experimentos nos quais as pessoas jogavam contra um computador.

No primeiro experimento, os participantes clicaram em quadrados vermelhos ou azuis para ganhar a moeda do jogo, enquanto a IA estudava os padrões de seleção dos participantes e os guiava para uma escolha específica. A IA teve sucesso em cerca de 70% das vezes.

Em um segundo experimento, os participantes tiveram que olhar para a tela e pressionar um botão quando mostrado um determinado símbolo (por exemplo, um triângulo laranja), e não pressioná-lo quando mostrado outro (por exemplo, um círculo azul). Aqui, a IA decidiu simplificar a sequência de caracteres para que os participantes cometessem mais erros e alcançou um aumento de erros de quase 25%.

O terceiro experimento consistiu em várias rodadas em que um participante se fez passar por um investidor dando dinheiro a um administrador (AI). A AI então devolvia uma determinada quantia ao participante, que decidia quanto investir na próxima rodada. O jogo era jogado em dois modos diferentes: em um, a IA buscava maximizar a quantidade de dinheiro que recebia e, no outro, a IA buscava distribuir o dinheiro de forma justa entre ela e o investidor. A IA teve muito sucesso em todos os modos.

Em cada experimento, a máquina aprendeu com as respostas dos participantes e identificou vulnerabilidades na tomada de decisão humana. O resultado final foi que a máquina aprendeu a direcionar os participantes para certas ações.

O que a pesquisa significa para o futuro desenvolvimento de IA?

Os resultados ainda são bastante abstratos e abordam situações limitadas e irrealistas. Mais pesquisas são necessárias para determinar como essa abordagem pode ser implementada e usada para o benefício da sociedade.

Mas a pesquisa está realmente avançando nossa compreensão não apenas do que a IA pode fazer, mas de como as pessoas fazem escolhas. Isso mostra que as máquinas podem aprender a controlar a tomada de decisão humana interagindo conosco.

O estudo tem uma vasta gama de aplicações potenciais, desde a melhoria das ciências comportamentais e políticas públicas para melhorar o bem-estar social até a compreensão e influência sobre como as pessoas adotam hábitos alimentares saudáveis ​​ou energia renovável. A inteligência artificial e o aprendizado de máquina podem ser usados ​​para reconhecer as vulnerabilidades das pessoas em certas situações e ajudá-las a evitar fazer escolhas erradas.

Este método também pode ser usado para proteger contra ataques de influência. As máquinas podem ser ensinadas a nos alertar quando estamos sendo influenciados online e a ajudar a moldar nosso comportamento para mascarar nossa vulnerabilidade.

Qual é o próximo?

Como qualquer tecnologia, a IA pode ser usada para o bem ou para o mal, e a governança adequada é crítica para garantir que seja implementada com responsabilidade. No ano passado, a CSIRO desenvolveu o AI Ethics Concept como um primeiro passo nesse caminho.

A inteligência artificial e o aprendizado de máquina tendem a consumir muitos dados, o que significa que é imperativo garantir que haja gerenciamento de dados e sistemas de acesso eficazes. Ao coletar dados, é muito importante implementar processos de consentimento e proteção de privacidade adequados.

As organizações que usam e desenvolvem inteligência artificial precisam ter certeza de que sabem o que essas tecnologias podem ou não fazer e compreender os riscos e benefícios potenciais.

John Whittle, Diretor de Data61.