ニューラルネットワークは独自の言語を作成しましたが、科学者は解読できません

ニューラルネットワークは独自の言語を作成しましたが、科学者は解読できません

当初、言葉はタラバルシナの科学者には見えましたが、それからニューラルネットワークがそれらを理解していることが判明しました

Dall -Eツールは、Openai Research Companyによって「訓練された」ニューラルネットワークであり、自然言語のテキストから現実的な画像とアートを生成します。以前、開発者は、Dall-Eが非関連の概念をもっともらしく組み合わせて、動物とオブジェクトの擬人化バージョンを作成できることを発見しました。

Yannis Daras(Giannis Daras)、コンピューター知識の分野の科学候補、今週Twitterで公開された例、彼が「彼自身のAIの言語」と呼んだものの例。

「Apoploe Vesrreitais」 - 鳥を意味します」とTwitterにDarasが書いています。 「Contarra ccetnxniams luryca tanniounons」 - カブトムシまたは害虫を意味します。

Dall -E 2は、2021年にOpenaiが発表したコンピュータービジョンのシステムであるClipと組み合わせて動作します。

Dall-Eは、簡単な説明に基づいてイラスト、写真、レンダリングを作成します。たとえば、彼女は「蝶のネクタイの猫」または「犬を散歩しているダイコン」を描くことができます。 Clipは、簡単な説明に基づいて、オブジェクトを定義し、分類します。

たとえば、これは「サンタモニカのスケートでのクールなパンダロール」の要求に応じてニューラルネットワークによって作成された結果です。

これまでのところ、新しいバージョンへのアクセスは、待機リストを介してユーザーのグループのみで開いています。ユーザーは、憎しみ、ヌード、わいせつなジェスチャー、または「現在の地政学的な出来事に関連する陰謀またはイベント」に関連するすべてのものを含む、「害を引き起こす可能性のある」画像をロードまたは作成することを禁止されています。また、画像の作成におけるAIの役割を明らかにする必要があります。その後、ニューラルネットワークがAPIに追加され、第3パーティの開発者が使用できるようになります。

機械学習(AI)で人工知能を使用する研究者は、多くの場合、彼らのアルゴリズムが直面する問題をどのように解決するかを正確に知らないことがよくあります。 Dalle-2と同様に、科学者はこの「ブラックボックス」内でどのプロセスが発生するかをまだ理解していませんでした。今それらを開いて、研究者は驚くべき結論に達しました。画像を構築するために、人工知能は独自の言語を作成しました。

著者らは、導入されたテキストに基づいて画像を作成するDalle-2システムが、特定の状況下で意味のない単語を返すことに気付いた。たとえば、「平面」という言葉がある画像は、しばしば何らかの妨害されます。最初はバグのように見えましたが、科学者は、返された言葉の文字のシーケンスは偶然ではないという結論に達しました。
ニューラルネットワークは独自の言語を作成しましたが、科学者は解読できません

これを確認するために、科学者は以前の言葉によって生成されたニューラルネットワークを単に「養う」だけです。これらの文字のセットはプログラムにとって本当に重要であり、以前にシステムに入ったのと同じことを意味することが判明しました。これは、何らかの理由でニューラルネットワークが人間の単語を独自に変換することを意味する可能性があります。