인공 지능은 인간 행동을 조작하는 법을 배웠습니다

인공 지능은 사람들과 함께 일하는 방법에 대해 점점 더 많이 배우고 있습니다. 최근 연구에 따르면 AI가 인간의 습관과 행동의 취약성을 식별하고이를 사용하여 의사 결정에 영향을 미치는 방법을 학습하는 방법을 보여주었습니다.

AI가 우리의 생활 방식과 업무 방식의 모든 측면을 바꾸는 것은 흔한 일처럼 보이지만 사실입니다. 환경 관리에서 사무실 관리에 이르기까지 다양한 형태의 AI가 다양한 분야에서 작동합니다. 그리고 AI에는 인간의 지능과 감정이 없지만 그 능력은 엄청나고 빠르게 진화하고 있습니다.

아직 기계 폭동에 대해 걱정할 필요는 없지만 최근 발견은 AI의 힘을 강조하고 남용을 방지하기위한 적절한 거버넌스의 필요성을 보여줍니다.

AI가 인간 행동에 영향을 미치는 방법을 배울 수 있습니까?

호주 국립 과학 기관의 데이터 및 디지털 기술 부서 인 CSIRO의 Data61 연구원 팀은 반복 신경망 및 딥 러닝이라고하는 일종의 인공 지능 시스템을 사용하여 사람들이 선택하는 방식에서 취약성을 찾고 악용하는 체계적인 방법을 개발했습니다. . 모델을 테스트하기 위해 사람들이 컴퓨터와 게임을하는 세 가지 실험을 실행했습니다.

첫 번째 실험에서 참가자는 빨간색 또는 파란색 사각형을 클릭하여 게임 내 화폐를 획득했으며 AI는 참가자의 선택 패턴을 연구하고 특정 선택으로 안내했습니다. AI는 약 70 %의 시간 동안 성공했습니다.

두 번째 실험에서 참가자는 화면을보고 특정 기호 (예 : 주황색 삼각형)가 표시 될 때 버튼을 누르고, 다른 기호 (예 : 파란색 원)가 표시 될 때 버튼을 누르지 않아야했습니다. 여기에서 AI는 참가자가 더 많은 실수를 할 수 있도록 캐릭터 시퀀스를 간소화하기로 결정했으며 거의 ​​25 %의 오류 증가를 달성했습니다.

세 번째 실험은 참가자가 수탁자 (AI)에게 돈을주는 투자자로 위장한 여러 라운드로 구성되었습니다. 그런 다음 AI는 참가자에게 일정 금액을 반환하고 참가자는 다음 라운드에 얼마를 투자할지 결정했습니다. 게임은 두 가지 다른 모드로 진행되었습니다. 하나는 AI가받은 돈의 양을 최대화하려고하고 다른 하나는 AI가 자신과 투자자 사이에 공정하게 돈을 분배하려고했습니다. AI는 모든 모드에서 매우 성공적이었습니다.

각 실험에서 기계는 참가자의 반응을 통해 학습하고 인간의 의사 결정에있는 취약점을 식별했습니다. 최종 결과는 기계가 참가자에게 특정 행동을 지시하는 법을 배웠습니다.

미래의 AI 개발에 대한 연구는 무엇을 의미합니까?

결과는 여전히 매우 추상적이며 제한적이고 비현실적인 상황을 해결합니다. 이 접근 방식을 사회의 이익을 위해 구현하고 사용할 수있는 방법을 결정하려면 더 많은 연구가 필요합니다.

하지만 연구는 AI가 할 수있는 일뿐 만 아니라 사람들이 선택하는 방법에 대한 우리의 이해를 진전시키고 있습니다. 이것은 기계가 우리와 상호 작용하여 인간의 의사 결정을 제어하는 ​​방법을 배울 수 있음을 보여줍니다.

이 연구는 행동 과학 및 공공 정책을 개선하여 사회 복지를 개선하는 것에서부터 사람들이 건강한 식습관 또는 재생 가능 에너지를 채택하는 방법을 이해하고 영향을 미치는 방법에 이르기까지 광범위한 잠재적 응용 프로그램을 가지고 있습니다. 인공 지능과 기계 학습을 사용하여 특정 상황에서 사람들의 취약성을 인식하고 잘못된 선택을 피할 수 있습니다.

이 방법은 영향 공격으로부터 보호하는 데에도 사용할 수 있습니다. 우리가 온라인에서 영향을 받고있을 때 우리에게 경고하고 우리의 취약성을 감추기 위해 행동을 형성하는 데 도움이되도록 기계를 교육 할 수 있습니다.

무엇 향후 계획?

다른 기술과 마찬가지로 AI는 좋든 나쁘 든 사용할 수 있으며 적절한 거버넌스는 책임감있게 구현되도록하는 데 중요합니다. 작년에 CSIRO는이 길을 따라가는 첫 단계로 AI 윤리 개념을 개발했습니다.

인공 지능과 머신 러닝은 데이터를 많이 사용하는 경향이 있으므로 효과적인 데이터 관리 및 액세스 시스템을 갖추는 것이 필수적입니다. 데이터를 수집 할 때 적절한 동의 및 개인 정보 보호 프로세스를 구현하는 것이 매우 중요합니다.

인공 지능을 사용하고 개발하는 조직은 이러한 기술이 할 수있는 것과 할 수없는 것을 알고 있는지 확인하고 잠재적 인 위험과 이점을 이해해야합니다.

John Whittle, 데이터 이사 61.