人工知能は人間の行動を操作することを学びました

人工知能は、人々との連携方法についてますます学んでいます。最近の研究では、AIが人間の習慣や行動の脆弱性を特定し、それらを使用して意思決定に影響を与える方法を学習できることが示されています。

AIが私たちの生活や働き方のあらゆる側面を変えているのは当たり前のように思えるかもしれませんが、それは事実です。さまざまな形のAIが、環境管理からオフィス管理まで、このようなさまざまな分野で機能します。 AIには人間の知性や感情はありませんが、その機能は巨大で急速に進化しています。

マシンの暴動について心配する必要はまだありませんが、最近の発見はAIの力を浮き彫りにし、悪用を防ぐための適切なガバナンスの必要性を示しています。

AIはどのようにして人間の行動に影響を与えることを学ぶことができますか？

オーストラリアの国立科学機関のデータおよびデジタル技術部門であるCSIROのData61の研究者チームは、反復ニューラルネットワークおよびディープラーニングと呼ばれる一種の人工知能システムを使用して人々が選択する方法で脆弱性を見つけて悪用するための体系的な方法を開発しました。彼らのモデルをテストするために、彼らは人々がコンピューターに対してゲームをするという3つの実験を実行しました。

最初の実験では、参加者は赤または青の四角をクリックしてゲーム内通貨を獲得し、AIは参加者の選択パターンを調査し、特定の選択に導きました。 AIは約70％の確率で成功しました。

2番目の実験では、参加者は画面を見て、特定の記号（たとえば、オレンジ色の三角形）が表示されたときにボタンを押す必要があり、別の記号（たとえば、青い円）が表示されたときにボタンを押さないでください。ここで、AIは、参加者がより多くの間違いを犯すように文字のシーケンスを合理化することを決定し、エラーをほぼ25％増加させました。

3番目の実験は、参加者が受託者（AI）にお金を与える投資家を装ったいくつかのラウンドで構成されていました。その後、AIは参加者に一定の金額を返し、参加者は次のラウンドにいくら投資するかを決定しました。ゲームは2つの異なるモードでプレイされました。1つはAIが受け取った金額を最大化しようとしたこと、もう1つはAIが投資家との間で公平にお金を分配しようとしたことです。 AIはすべてのモードで非常に成功しています。

各実験で、機械は参加者の応答から学習し、人間の意思決定における脆弱性を特定しました。その結果、機械は参加者を特定のアクションに誘導することを学習しました。

研究は将来のAI開発にとって何を意味しますか？

結果はまだ非常に抽象的であり、限られた非現実的な状況に対処しています。このアプローチをどのように実施し、社会の利益のために使用できるかを判断するには、さらに研究が必要です。

しかし、研究はAIができることだけでなく、人間がどのように選択を行うかについての私たちの理解を本当に前進させています。これは、機械が私たちと対話することによって人間の意思決定を制御することを学ぶことができることを示しています。

この研究には、行動科学や公共政策を改善して社会福祉を改善することから、人々が健康的な食生活や再生可能エネルギーをどのように採用するかを理解して影響を与えることまで、幅広い潜在的な用途があります。人工知能と機械学習を使用して、特定の状況における人々の脆弱性を認識し、間違った選択をしないようにすることができます。

この方法は、影響攻撃から保護するためにも使用できます。私たちがオンラインで影響を受けているときに私たちに警告し、私たちの脆弱性を隠すために私たちの行動を形作るのを助けるように機械を教えることができます。

次は何ですか？

他のテクノロジーと同様に、AIは善悪を問わず使用でき、責任を持って実装するためには適切なガバナンスが不可欠です。昨年、CSIROはこの道に沿った最初のステップとしてAI倫理コンセプトを開発しました。

人工知能と機械学習はデータを大量に消費する傾向があります。つまり、効果的なデータ管理とアクセスシステムを確実に導入することが重要です。データを収集するときは、適切な同意とプライバシー保護プロセスを実装することが非常に重要です。

人工知能を使用および開発している組織は、これらのテクノロジーで何ができるか、何ができないかを確実に理解し、潜在的なリスクとメリットを理解する必要があります。

Data61のディレクターであるJohnWhittle氏。